标签 #guardrails
3 篇文章。
-
· Paul Lukic
The Agent in Your Team Chat Spends the One Budget You Can't Raise
DeepSeek's Super-Agent prototype listens to GitHub and team chat and acts on its own. Before agents like this join your channels, decide when they may act, because the cost is your team's attention.
-
· Paul Lukic
你的代理从没看到的那条警告：指令预算、看不见的 hook，以及一次吃掉自己产出的同步
在真实项目上跑 Coograph 的一天：一行代码都还没读，指令就已经占了 120,000 个 token；护栏发出的警告，模型从没收到过；还有一次同步，覆盖了它自己的 retro 提出的修复。我们发现了什么、怎么证明的，以及 1.8.5 发布了什么。
-
· Paul Lukic
AI 编程代理的递归自我改进：哪些是真的，哪些还是理论，以及我们实际交付了什么
递归自我改进，是指一个人工智能系统改进自己“改进自己”的能力。这篇文章讲清楚理论到底说了什么，为什么模型层面的循环至今仍是理论，以及我们如何为编程代理做出了指令层面的版本，并让人守在闸门前。