NPG 魔法報紙

每日深稿 第 130 期

CarryOn 架構讓 AI 代理在長任務中省 51.9% Token

以可重用任務物件取代歷史記錄,提升效能並大幅降低 Token 消耗。

文/魔法報紙編輯部 · 依 Hugging Face Papers 報導整理 · 看原文

CarryOn 架構讓 AI 代理在長任務中省 51.9% Token
圖片來源:Hugging Face Papers(原報導配圖)

三個重點

  1. 效能提升 5.8% 與 7.0%
  2. Token 用量減少 51.9% 與 22.9%
  3. 基於 OSWorld 2.0 與 BrowseComp-Plus 測試

事件概要

研究團隊發表名為 CarryOn 的物件導向上下文運行時(Object-Oriented Context Runtime),旨在解決長程 AI 代理(Long-horizon Agents)反覆處理交互歷史記錄的效率問題。該系統將上下文組織圍繞可重用的任務物件,而非生成這些進度的歷史記錄。在 OSWorld 2.0 與 BrowseComp-Plus 基準測試中,CarryOn 分別帶來 5.8% 與 7.0% 的效能提升,同時將總 Token 使用量分別減少 51.9% 與 22.9%。

前因與轉變

長程代理通常在持久任務狀態中累積進度,但仍需反覆處理描述該進度如何實現的交互歷史記錄。這引發了一個問題:長程上下文是否可以改為圍繞可重用的進度進行組織,而非產生該進度的歷史?CarryOn 的出現正是為了回應這一挑戰,它不再將壓縮歷史或重建的進度描述作為續接的主要基礎,而是從續接載體(continuation carriers)、補充執行上下文以及近期交互的即時尾部構建上下文視圖。

實務應用

原文沒有提供使用方式。讀者可透過 Hugging Face 論文頁面或專案頁面 https://ethannju.github.io/carryon 獲取更多技術細節。文中提及可使用 `hf papers read 2610.18784` 指令在代理中讀取該論文,或執行 `curl -LsSf https://hf.co/cli/install.sh | bash` 更新 CLI 工具。

同類比較

原文沒有跟其他產品比較。目前僅在 OSWorld 2.0 和 BrowseComp-Plus 兩個基準上展示了相對於傳統方法的效能與成本差異,未提及具體的競品名稱或對比其他特定架構的細節。

編輯觀察

  1. 成本結構改變:Token 使用量減少逾 50% 意味著在處理複雜、多步驟任務時,API 調用成本可能顯著下降,這對需要長期運行代理的開發者與企業是直接的財務利好。
  2. 架構思維轉變:從「記錄歷史」轉向「維護狀態物件」,這反映了 AI 代理開發正從線性對話邏輯向狀態機邏輯演進。關注此領域的技術人員應留意「狀態持久化」與「上下文壓縮」之間的權衡設計。
  3. 基準測試依賴:效能提升基於 OSWorld 2.0 與 BrowseComp-Plus,這兩個基準側重於操作系統交互與複雜瀏覽任務。若你的應用場景不涉及這類長程、多步驟的交互操作,實際收益可能與測試數據存在差異,建議在導入前針對自身業務場景進行驗證。

原始報導:Hugging Face Papers《Pack Light, CarryOn: Building Object-Oriented Context for Long-Horizon Agents》
https://huggingface.co/papers/2610.18784
事實段落只寫原文有的內容;「編輯觀察」是本報的判斷,不是原文內容。

回到今天的魔法報紙 →