NPG 魔法報紙

每日深稿 第 126 期

Anthropic 授予 METR 員工級別權限進行獨立安全評估

Anthropic 讓 METR 六名員工獲得內部系統存取權,以強化第三方獨立審查。

文/魔法報紙編輯部 · 依 Anthropic News 報導整理 · 看原文

Anthropic 授予 METR 員工級別權限進行獨立安全評估
圖片來源:Anthropic News(原報導配圖)

三個重點

  1. 授予 METR 六名員工硬體與系統權限
  2. 簽署白宮超級智慧協定承諾外部審計
  3. 建立三級評估者存取權限分級制度

事件概要

Anthropic 於 2026 年 10 月 15 日宣布,已開始給予非營利組織 METR 的團隊「員工級別存取權限」。該組織將對前沿 AI 模型進行風險評估並發布結果。Anthropic 同時確認已簽署《白宮超級智慧協定》(White House Accord on Super Intelligence),承諾與獨立外部審計機構合作。目前 Anthropic 正與 SecureBio 和 Accenture 合作,並與 Hugging Face 等機構進行早期討論。

前因與轉變

原文提到,隨著模型能力增強,需要更強的安全保障措施和更具挑戰性的風險評估。Anthropic 無法公開所有安全相關資訊,因為部分資訊可能對惡意行為者有用或涉及商業機密(如運算或訓練資訊)。因此,Anthropic 選擇給予第三方評估者深入存取權限,讓他們分享證據和結論,以縮小評估者對系統的理解與公司自身理解之間的差距。

實務應用

原文沒有提供讀者自行操作的使用方式。此舉為企業內部治理與合規措施,非面向終端用戶的工具。讀者可關注 Anthropic 官方新聞頁面,以獲取 METR 後續發布的風險評估報告及相關更新。

同類比較

原文沒有跟其他產品比較。原文僅提及 Anthropic 正在與 SecureBio、Accenture、Faculty 以及 Hugging Face 等機構進行不同程度的評估合作,並建立了三級存取權限制度,但未將此模式與其他 AI 公司的具體做法進行對比。

編輯觀察

  1. 合規標準化趨勢:Anthropic 將「員工級別存取權限」制度化,並明確劃分三級權限(從有限調查到完全嵌入),這可能成為前沿 AI 公司滿足監管要求(如白宮協定)的參考範本。
  2. 資訊透明度與機密的平衡:允許評估者發布結果但保留特定類別(如客戶數據、法律特權資訊)的刪改權,顯示企業在追求外部監督與保護商業機密之間尋求具體的操作邊界。
  3. 第三方依賴加深:引入 METR 等獨立機構進行「嵌入式評估」,意味著 AI 安全評估正從內部自檢轉向依賴具備特定技術專長(如對齊欺騙檢測)的外部專業團隊,這將改變安全評估的產業鏈結構。

原始報導:Anthropic News《Oct 15, 2026 Announcements An update on independent evaluators》
https://www.anthropic.com/news/an-update-on-independent-evaluators
事實段落只寫原文有的內容;「編輯觀察」是本報的判斷,不是原文內容。

回到今天的魔法報紙 →