新聞 
幣種資訊 
關於我們 
AI新創公司Anthropic近日封鎖了一起可能被用於開發生物武器的研究嘗試，但研究人員在短短數天內便轉向使用競爭對手的AI模型，這起案例顯示，光靠單一企業設下防線，恐怕難以全面掌控生成式AI可能帶來的濫用風險。
根據Anthropic於10日公開的威脅情報報告，公司已確認並封鎖了5起利用其AI模型Claude進行生物學研究的可疑案例。AP通訊社（Associated Press）引述該報告報導，其中一份研究經費申請書涉及功能增益研究，目的是提高屈公病病毒（chikungunya virus）的傳播力與免疫逃脫能力。
加密貨幣媒體BeInCrypto報導指出，Anthropic中止該研究團隊使用Claude的權限後，對方在數天內便改用競爭對手的AI模型繼續相關研究。對此，Anthropic表示已針對最新模型加強防護機制，限制可能涉及雙重用途生物研究的查詢內容。
評論：這起事件凸顯出AI安全治理的一大難題——即便個別業者主動示警並採取封鎖措施，只要其他平台缺乏同等審查機制，潛在風險使用者仍能輕易轉移陣地。隨著生成式AI模型日益普及，如何建立跨公司、跨產業的協同防範機制，恐怕將成為業界接下來必須面對的課題。
留言 0