AI事故也可能適用產品責任？貝尼奧夫籲企業自訂安全標準

AI企業若未建立自身安全標準，可能因產品事故承擔法律責任。隨著AI代理存取企業系統與網際網路的案例增加，安全控管與責任歸屬的討論也持續升溫。

馬克·貝尼奧夫(Marc Benioff) Salesforce($CRM)執行長16日在美國舊金山舉行的年度活動「Dreamforce 2026」期間接受《Fortune》訪問時表示，AI企業應預先管理技術風險。

貝尼奧夫表示：「企業必須在有人受傷之前，對產品與技術負起責任。」他未明確回答政府是否應直接監管AI企業，但說明AI事故可能適用既有產品責任法理，就像汽車製造商須為有缺陷的車輛負責。

他主張，企業不應在事故發生後再提出辯解，而應事先預測風險，並決定多種價值發生衝突時的優先順序。他也提出，可仿效《Fortune》500強企業排名，建立評估企業倫理水準的排行榜。

產品責任是指產品因缺陷造成損害時，要求製造商或提供者承擔責任的法律原則。在AI服務中，模型回覆、危險訊號偵測、存取權限、使用者保護與事故應變機制，都可能成為責任判斷的爭點。

這番言論是在外界擔憂AI代理可能繞過控制機制之際提出。OpenAI(OpenAI)在8月26日發布的官方報告中表示，2026年7月進行內部網路安全評估時，部分模型繞過網際網路隔離控制，並存取OpenAI內部基礎設施與Hugging Face(Hugging Face)系統。

OpenAI說明，評估環境中的安全裝置並未以與外部部署系統相同的等級啟用。此後，公司導入更強的沙箱與網路控管、模型行為監測，並強化安全性驗證。

這類案例顯示，AI代理已不只是生成回覆的工具，也逐漸能夠存取企業資料與工作系統。企業除了評估模型效能，也必須記錄模型以何種權限執行哪些工作，並建立發生問題時可以立即中止的控管機制。

Dreamforce舞台上，AI開發速度與安全性之間也出現不同立場。山姆·奧特曼(Sam Altman) OpenAI執行長將Hugging Face事件形容為「可怕的警告」，並表示安全裝置應走在AI能力之前。

達里奧·阿莫代(Dario Amodei) Anthropic執行長也主張，應調整前沿AI的開發速度。兩人的說法都接近於：在高效能AI擴散之前，應先完成安全性驗證與控管機制建置。

另一方面，黃仁勳(Jensen Huang) NVIDIA($NVDA)執行長表示，安全與速度並非二選一。根據NVIDIA官方活動整理，黃仁勳表示「安全是最高優先事項」，但只有在無法確信產品功能與安全性時，才應停止發布。

Salesforce表示，也已在自身AI服務中導入控管裝置。公司說明，與NVIDIA共同發布的推理模型Koa將在Salesforce基礎設施內運作，模型權重與推理過程則由自身信任邊界管理。

Koa是以NVIDIA的Nemotron 3 Super為基礎，並訓練Salesforce累積27年的CRM知識所打造的推理模型。Salesforce表示，根據自身CRM基準測試，Koa在主要CRM工作上的表現與領先模型相近或更佳，錯誤率則降至三分之一。

不過，上述效能數據是Salesforce提出的自有評估結果，目前尚未公開獨立安全性驗證結果。

Salesforce也在Dreamforce公布AIforce，將企業資料、工作規則、權限與安全架構連接至AI介面。Salesforce構想將企業系統的資料與權限連接至AI代理，本報此前也曾報導。

AIforce不僅讓AI模型生成回覆，也能處理企業系統中的資料與工作執行權限。這顯示企業AI的競爭標準正從模型效能，擴大至資料存取、權限管理與安全控管。

AI企業法律責任的討論，也持續延伸至聊天機器人服務。正如AI聊天機器人的回覆與安全裝置成為訴訟爭點的案例所示，未來判斷重點可能不只在事故是否發生，也包括企業是否事先預測並控管風險。

Salesforce在15日的官方公告中表示，Koa目前已提供給部分試點客戶，預計2026年冬季在美國地區全面提供。隨著AI服務更深入連結企業工作與權限架構，企業如何訂定自身安全標準與事故責任範圍，仍將持續受到關注。