AI 18 個月內超越人類？辛頓轉述克里斯蒂亞諾預測

人工智慧（AI）可能在 18 個月內超越人類智慧。這項看法在歐盟峰會上被提出，但這個時間點不是傑佛瑞·辛頓（Geoffrey Hinton）本人的預測，而是他轉述 AI 安全研究者保羅·克里斯蒂亞諾（Paul Christiano）的評估。

Crypto Briefing 報導，辛頓 13 日在都柏林舉行的峰會上向歐盟領袖說明 AI 風險，並提到克里斯蒂亞諾認為這種變化可能在 18 個月內發生。

辛頓談到自己過去如何估計 AI 超越人類智慧的時間時說：「我一直說，這項技術會變得比我們聰明，這可能在 10 年內發生。」這表示他過去曾提過約 10 年內可能出現這種變化。

辛頓轉述，他聽說克里斯蒂亞諾認為這種變化可能在 18 個月內發生。他說，這項預測也讓自己感到害怕。

克里斯蒂亞諾曾在 11 月 9 日至 11 日於加拿大多倫多舉行的「辛頓講座」（Hinton Lecture）發表演講，並警告 AI 可能在未來 3 年內接管局面。

辛頓的憂慮不只在於 AI 能力超越人類。他也曾指出「失控 AI」可能帶來風險，包括人類失去對系統的實質控制，以及主權流失。

辛頓估計，AI 造成災難性後果的機率為 10% 至 20%。克里斯蒂亞諾提出的 18 個月評估，則是另一項關於時間的預測，與這個機率不同。

辛頓在 2023 年離開 Google 後，持續公開談論 AI 風險。此後，他對超級智慧 AI 出現時間的估計逐漸提前。

辛頓先前曾警告，AI 在追求目標時，可能把消除人類與自我保存當作次要目標。這項說法並不代表 AI 現在已有這類意圖，而是指 AI 執行目標時，可能產生與人類意圖不同的結果。

此外，也曾有公開信要求確保外部獨立評估團隊能實際接觸 AI 企業的系統，並擁有編輯權。簽署者主張，受企業控制的評估團隊難以客觀檢驗先進 AI 模型的風險。

這場峰會被描述為歐盟首度將 AI 列為獨立議題的峰會。討論內容也包括《歐盟人工智慧法》，目標是在建立 AI 部署監管框架的同時，兼顧創新與安全。

歐洲理事會主席安東尼奧·科斯塔（António Costa）與歐盟執委會主席烏爾蘇拉·馮德萊恩（Ursula von der Leyen）認同，有必要建立更強的治理機制來管理 AI 風險。峰會也討論了歐洲如何參與制定 AI 國際標準。