Unreal Labs 發布一款高效率低成本的 Unreal Agent

Unreal Labs 一款高效率且低成本的代理框架 Unreal Agent，與 Codex 相比，在生產工作負載和編碼/科學基準測試中可節省高達 40% 的成本，且不會對效能產生任何負面影響。

Unreal Agent 框架以完全非同步的方式管理工具調用，從而減輕了底層模型管理工具的等待、輪詢和心跳的需要，這種方法帶來了兩大優勢。

• 始終允許用戶控制代理，而無需等待工具呼叫完成
• 允許代理在模型呼叫之間安排更有用的工具呼叫任務，從而顯著提高成本效益

在實際工作負載和代理基準測試中，當前版本與 Codex 相比可節省高達 40% 的成本，與 Pi 相比可節省高達 20% 的成本。

根據 Unreal Labs 的經驗，依賴安全鉤子和專用工具的安全性和審批機制往往需要更多的維護，並且不如安全鉤子之外的確定性環境或沙箱約束那樣穩健：允許/禁止的主機、細粒度的訪問令牌、帶有審批門的代理。每次 Unreal Agent 發出工具呼叫時，Unreal Labs 都會立即追加一筆事件日誌記錄，表示該工具已傳回「進行中」狀態，同時在背景繼續執行。工具實際完成後，Unreal Labs 會將結果追加到會話日誌中並呼叫 LLM。

https://unreallabs.ai/blog/unreal-agent/

Picture Source

unreallabs.ai