AI安全是工程問題？NVIDIA執行長黃仁勳主張企業自主管理

NVIDIA($NVDA)執行長黃仁勳(Jensen Huang)主張，人工智慧(AI)安全應由企業在工程流程中管理，而非主要依賴政府監管。由於AI與社群媒體是截然不同的技術，企業應在產品上市前檢查其安全性。

黃仁勳17日在英國蘇格蘭鄧弗里斯的邱吉爾莊園(Dumfries House)舉行的AI活動上表示，AI與社群媒體「非常不同」。他指出，目前的AI安全問題源於尚未準備完成就上市的產品，因此應在技術開發過程中解決。Crypto Briefing報導了相關發言。

黃仁勳15日在Salesforce Dreamforce活動上也表達相同立場。他表示，「安全不是法律問題，而是工程問題」，並認為企業判斷比制定新法律或監管規範更重要。TechCrunch報導了這番言論。

他說，企業不應推出無法確信安全性的產品，並應自行調整開發速度。其論點是，AI由人類設計的硬體與軟體構成，因此可以在開發階段檢查產品功能與安全性。

黃仁勳也表示，創新速度與安全地推出產品並非二選一。企業可以在產品上市前評估風險，必要時延後時程，藉此同時達成兩項目標。

這種做法與Anthropic處理前沿AI安全的方式有所不同。Anthropic在透明度資料中，將參與前沿模型論壇、安全研究及制定風險評估標準列為主要活動。

Anthropic一直公開提出企業間合作及建立安全標準的必要性。這反映出，將安全性交由個別企業產品開發體系負責的方式，正與建立產業共同標準的方式形成對照。

AI安全爭議不只涉及是否需要監管，也關乎責任應由誰承擔。若重視企業自主管理，企業將保有調整產品開發速度的權限；若強化外部評估與法律義務，政府及獨立機構的監督範圍則會擴大。

歐盟(EU)採取以風險為基礎的做法，要求高風險AI系統進行風險評估、資料品質管理、紀錄保存、文件化及人類監督。

歐盟執行委員會表示，AI法案已於2024年8月1日生效，部分規定自2026年8月2日起適用。企業須遵循的程序，將依AI系統的風險等級與功能而有所不同。

本刊先前報導，歐盟AI法案的透明度義務，正延伸為生成式AI的標示與偵測課題。

對企業而言，自有安全管理體系可能有助於維持產品上市速度與技術開發彈性。不過，企業本身也是AI基礎設施與服務的供應方，因此外界也可能認為，不能全盤接受企業自律的主張。

Anthropic的做法是透過企業間合作及建立安全標準，補足個別企業判斷的不足。兩種方式都認為AI安全應在開發階段處理，但在監督主體與責任範圍上仍存在差異。

目前尚未確認黃仁勳的發言對NVIDIA股價或AI企業成本結構造成直接影響。美式企業自主管理與歐盟法律義務，將如何影響AI企業的安全管理體系及產品上市流程，仍有待各項規範的適用過程進一步觀察。