標籤 #guardrails
3 篇文章。
-
· Paul Lukic
The Agent in Your Team Chat Spends the One Budget You Can't Raise
DeepSeek's Super-Agent prototype listens to GitHub and team chat and acts on its own. Before agents like this join your channels, decide when they may act, because the cost is your team's attention.
-
· Paul Lukic
你的代理從沒看到的那條警告：指令預算、隱形的 hook，以及一個吃掉自己產出的同步
在真實專案上跑 Coograph 的一天：還沒寫一行程式碼就先載入 120,000 個 token 的指令、模型從未收到的護欄警告，以及一次同步把它自己的 retro 提議的修正給覆蓋掉了。我們找到了什麼、怎麼證明的，以及 1.8.5 帶來了什麼。
-
· Paul Lukic
AI 編程代理的遞迴自我改進：哪些是真的，哪些還是理論，以及我們實際交付了什麼
遞迴自我改進，是指一個人工智慧系統改進自己「改進自己」的能力。這篇文章講清楚理論到底說了什麼，為什麼模型層面的迴圈至今仍是理論，以及我們如何為編程代理做出指令層面的版本，並讓人守在閘門前。