Anthropic研究員雅各布・考克森(Jacob Coxon)因擔心人工智慧(AI)可能導致人類滅絕而離開公司。CryptoBriefing報導,考克森認為Anthropic與OpenAI正加速開發可自我改進的超級智慧,恐危及人類安全。
考克森在X發文稱,AI開發者認真相信,這項技術可能在2020年代末前殺死全人類。WIRED與Axios也報導了考克森離職及其對AI安全的疑慮。Anthropic對齊研究主管Evan Hubinger則表示,他認為AI在未來10年內殺死所有人的可能性超過10%。
CryptoBriefing報導,考克森否認曾與外部團體協調離職及相關貼文。這起爭議已延伸至業界對AI模型控制,以及能否在加速開發的同時建立足夠安全機制的討論。
留言 0