事件概要
Anthropic 於 2026 年 10 月 15 日宣布,已開始給予非營利組織 METR 的團隊「員工級別存取權限」。該組織將對前沿 AI 模型進行風險評估並發布結果。Anthropic 同時確認已簽署《白宮超級智慧協定》(White House Accord on Super Intelligence),承諾與獨立外部審計機構合作。目前 Anthropic 正與 SecureBio 和 Accenture 合作,並與 Hugging Face 等機構進行早期討論。
前因與轉變
原文提到,隨著模型能力增強,需要更強的安全保障措施和更具挑戰性的風險評估。Anthropic 無法公開所有安全相關資訊,因為部分資訊可能對惡意行為者有用或涉及商業機密(如運算或訓練資訊)。因此,Anthropic 選擇給予第三方評估者深入存取權限,讓他們分享證據和結論,以縮小評估者對系統的理解與公司自身理解之間的差距。
實務應用
原文沒有提供讀者自行操作的使用方式。此舉為企業內部治理與合規措施,非面向終端用戶的工具。讀者可關注 Anthropic 官方新聞頁面,以獲取 METR 後續發布的風險評估報告及相關更新。
同類比較
原文沒有跟其他產品比較。原文僅提及 Anthropic 正在與 SecureBio、Accenture、Faculty 以及 Hugging Face 等機構進行不同程度的評估合作,並建立了三級存取權限制度,但未將此模式與其他 AI 公司的具體做法進行對比。
編輯觀察
- 合規標準化趨勢:Anthropic 將「員工級別存取權限」制度化,並明確劃分三級權限(從有限調查到完全嵌入),這可能成為前沿 AI 公司滿足監管要求(如白宮協定)的參考範本。
- 資訊透明度與機密的平衡:允許評估者發布結果但保留特定類別(如客戶數據、法律特權資訊)的刪改權,顯示企業在追求外部監督與保護商業機密之間尋求具體的操作邊界。
- 第三方依賴加深:引入 METR 等獨立機構進行「嵌入式評估」,意味著 AI 安全評估正從內部自檢轉向依賴具備特定技術專長(如對齊欺騙檢測)的外部專業團隊,這將改變安全評估的產業鏈結構。