Anthropic 讓 METR 研究員以員工級權限進駐,外部評估報告公司無權否決
2026/10/17
AI 公司 Anthropic 於 10 月 15 日在官方部落格宣布,非營利 AI 評估組織 METR(Model Evaluation and Threat Research)的研究員將以員工級權限進駐公司,直接參與模型的安全評估工作。Anthropic 同時表明,METR 所提出的外部評估報告,公司無權否決。這項安排讓第三方評估機構得以更深入接觸前沿 AI 模型的開發過程。
METR 是專門評估先進 AI 模型能力與潛在風險的非營利組織,長期關注模型是否具備自主執行複雜任務、自我複製或規避人類監督等可能帶來重大風險的能力。過去外部評估機構通常只能在模型開發後期取得有限的存取權限,評估範圍與深度都受到開發公司的限制。據悉,AI 安全研究社群長期呼籲業者給予獨立評估者更充分的存取權,以確保評估結果具有參考價值。
此次安排的重點在於兩個層面。第一是權限,METR 研究員取得員工級權限,意味著能接觸到比一般外部測試更完整的模型版本、內部資料與開發環境,評估工作可以更貼近實際狀況。第二是獨立性,Anthropic 不能否決 METR 的評估報告,代表即使報告內容對公司不利,也無法透過內部程序加以阻擋。業界分析人士指出,第三方評估若需經過受評公司同意才能發布,其公信力往往受到質疑,Anthropic 放棄否決權,等於為外部評估的獨立性提供制度上的保障。
這項做法也與當前 AI 監管的氛圍相呼應。隨著各國政府與監管機關對前沿 AI 模型的安全問題日益關注,業者如何證明自身模型經過可信的評估,成為取得社會信任的關鍵。由獨立機構進駐並自主發布報告,可提供比公司自行公布測試結果更具說服力的證據。
對產業而言,Anthropic 此舉可能為其他前沿 AI 開發商設下新的參考標準。若這種深度外部評估模式運作順利,外界可能會期待更多公司採取類似安排,進而推動整個產業提升透明度。不過,給予外部人員員工級權限也涉及營業機密保護與資訊安全管理,如何在開放與保密之間取得平衡,將是實際執行時的挑戰。
整體來看,Anthropic 讓 METR 以員工級權限進駐並放棄否決權,是 AI 安全治理上的一次具體嘗試。後續 METR 發布的評估報告內容,以及這套合作模式能否長期運作,將成為觀察 AI 業者自律成效的重要指標。