Exo:让支架看见自己的代码和日志,在运行中改写自己
Exo 被定义为完全递归的智能体,能在运行时安全改写自身各方面。理解时可抓住收拢循环四字:把外部观察与优化压进运行系统,让同一系统边做边看边改,而不是内外各管一摊。
访谈围绕一个问题展开:如果智能体支架本身可以被智能体安全改写,会发生什么。受访人是加州大学伯克利分校博士生 Alex Krentsel,也是 Exo 项目的推动者之一。Exo 由他与 Martin Casado、Encore 等人共同搭建,思路来自他在伯克利 Sky Lab 参与的 Sky Discover 研究,即用外层系统优化内层系统。他把下一步称为收拢循环:不再依靠外部观察者反复调整,而是让运行中的系统自己负责改进自己。 从外部优化到自己动手 此前一年,研究重心经历了两
来源:youtube 原始内容