新聞 
幣種資訊 
關於我們 
Anthropic向獨立AI評估機構METR的6名研究人員提供員工級內部權限，並允許他們未經事前核准公開評估結果。
TechCrunch報導，Anthropic於15日宣布這項安排。METR研究人員可使用公司筆電與辦公室，也能存取內部工具；權限大致比照Anthropic風險評估團隊。Anthropic並建議員工與METR研究人員交流時，採取與處理對齊風險的同事分享資訊相同的方式。
這項措施的意義在於，Anthropic放棄阻止評估結果發布的權力。METR可自行發布對Anthropic風險、事故與做法的評估。Anthropic僅能就事先界定的少數類別要求刪除資訊，包括客戶資料、受律師與客戶保密義務保護的資訊，以及模型架構相關資訊。
只要不公開遭刪除的資訊本身，METR仍可公開說明刪除是否合理。這套程序讓評估機構在不揭露敏感資訊的情況下，仍能告知外界企業是否介入編輯。
Anthropic正建立外部評估者的三級權限制度。較低層級的評估者只能檢視有限範圍，例如生物安全非營利組織SecureBio；若要公開結果，須取得公司核准。中間層級可取得更多資訊，並能未經事前核准發布結果。
METR首度獲列為最高層級評估者，可取得相當於公司內部風險評估團隊的權限。Anthropic將這種安排比喻為進駐銀行的監管機構檢查員。
這項宣布把Anthropic執行長達里奧·阿莫迪（Dario Amodei）在9月一篇文章中提出的外部評估者進駐構想，具體化為實際安排。阿莫迪當時將外部評估者進駐AI實驗室列為減緩技術開發速度的第一步。OpenAI也承諾推動類似構想。
Anthropic、OpenAI、Google、Meta、NVIDIA與xAI之後簽署白宮協議，承諾參與獨立評估。這次措施是Anthropic將先前提出賦予外部評估者員工級存取權限的構想付諸執行。先前協議的評估範圍，與這套三級制度下的公開權限則各自獨立。
留言 0