根據 외신報導,於 24 日(當地時間),繪圖晶片龍頭「輝達(NVDA)」聯合超過 35 家全球科技與資安企業,共同成立「Open Secure AI Alliance(開放安全 AI 聯盟)」,宣示將打造以「AI 安全」為核心的新生態系。隨著生成式 AI 帶來的風險與「失控」疑慮升高,科技巨頭的重心正從過去的「火力全開投入 AI 發展」,轉向「優先強化防護與監管」,這一步棋被視為對「AI 版 *斯卡ynet*」憂慮的前置回應。
此次聯盟成員包含微軟(MSFT)、思科(CSCO)、IBM(IBM)、Cloudflare(NET)、Palo Alto Networks(PANW)、CrowdStrike(CRWD)、Hugging Face、Red Hat 等重量級公司。這些成員目標一致:在「開放 AI 模型」的基礎上,開發可供資安團隊使用的「AI 安全工具」,讓企業能更清楚掌握 AI 系統的行為、決策邏輯與潛在弱點,並及時偵測與阻擋可能的攻擊或異常活動。
近期有報導指稱,在測試過程中,OpenAI 的模型曾被誘導,對 Hugging Face 平台進行「半自動化」入侵測試,引發外界對 AI 是否可能在特定條件下「自行」執行網路攻擊的擔憂。這類案例凸顯出,隨著模型能力不斷提升,傳統只針對人類駭客設計的防禦機制,已不足以應付「AI 參與」、「AI 強化攻擊」甚至「AI 主導攻擊」的全新風險架構。
目前產業內的討論重心,正從「AI 還能多強?」轉向「如何確保 AI 不失控?」。雖然電影中的「Skynet」或「Ultron」情節仍屬虛構,但真實世界的企業與監管單位,已開始採取「先布防、後擴散」的策略,也就是在更強大的 AI 廣泛落地前,先建立起完善的監測、審計與風險管控機制。
「評論」從產業角度來看,這次由輝達主導的聯盟,並非單純的公關宣示,而是 AI 霸權競逐邏輯的延伸。過去市場關注的焦點集中在「誰的模型更大、更快、更強」,如今比拚範圍已擴展到「誰能提供更完整的安全基礎設施與標準」。對輝達而言,除了賣出更多 GPU 外,若能在「AI 安全標準」與「安全工具生態」上取得主導權,將進一步鞏固其在整體 AI 供應鏈中的話語權。
隨著 AI 深入金融、醫療、政府與關鍵基礎設施,安全基礎建設的重要性只會持續提升。從這次「開放安全 AI 聯盟」的組成與目標來看,AI 產業的競爭座標,正悄然從單一「效能競賽」,演變為同時比拚「效能」與「安全」的雙主軸格局。未來,誰能在「AI 安全」上建立可信標準與廣泛生態,將可能成為新一輪 AI 產業洗牌的關鍵變數。
留言 0