企業導入生成式AI要從概念驗證(PoC)真正走進日常營運,得先建立能同時管理提示詞、內部資料與代理人(agent)權限的資安框架,業界人士這樣提醒。當生成式AI與內部系統、API串接在一起,光靠既有的網頁資安已經不足以壓低風險。
F5 Korea常務李鎮元(Lee Jin-won)在接受Digital Today專訪時表示:「許多企業都在做AI相關的概念驗證專案,但真正進入實戰的比例還不算高。」他認為,強化資安並做好維運準備、建立治理機制、保護重要企業資料,仍是企業級AI普及要跨過的幾道關卡。
李鎮元指出,「提示詞」是AI資安與傳統資安最大的不同之處。他說:「不當的提示詞從傳統角度來看不算是漏洞,但從風險角度來看,絕對不是可以輕忽的事。」
提示詞注入(prompt injection)是一種透過自然語言指令操縱大型語言模型(LLM)AI系統的攻擊手法。攻擊者只要把設計過的指令餵給AI,就有機會繞過資安政策,甚至誘導系統洩露敏感資訊。
傳統網頁資安長期以網頁防火牆與漏洞應對為核心發展。但在AI服務中,使用者輸入、模型回應、外部工具呼叫與代理人權限被綁在同一條流程裡,資安團隊與開發團隊必須一起盯緊每個控管節點。
F5公司(FFIV)於6月22日發布官方新聞稿,宣布推出AI資安平台,同時完成收購SurePath AI。公司說明,這套平台可為企業的AI應用程式、模型、代理人與API提供全面的可視性、治理與防護功能。
SurePath AI是一家擁有網路層AI使用偵測、意圖分類、影子AI(Shadow AI)偵測技術的公司。所謂影子AI,指的是員工或部門在未經企業核准或控管下自行串接使用的AI工具。
根據F5向美國證券交易委員會(SEC)提交、截至2026年6月30日止季度的財報,收購SurePath AI的金額為5010萬美元(約新台幣16.3億元)。同一份文件也揭露,F5已在2025年9月26日完成以1億4520萬美元(約新台幣47億元)收購CalypsoAI。
CalypsoAI的技術被形容為具備即時威脅防禦、大規模紅隊測試與資料安全功能。F5同時透過自主研發與併購雙軌並進,持續擴大AI資安產品線。
F5提出的控管節點分為三塊:前門(front door)、協同運作(orchestration)、推論(inference)。前門是使用者與聊天機器人接觸的入口,協同運作則是AI串接內部系統與API的區域。
推論則是模型產出答案前後判斷流程的管理階段。F5的立場是,唯有把這三個區段分開控管,才能降低企業導入AI的營運風險。
成本管理也被視為企業AI營運的另一個重點。F5在AI閘道(AI Gateway)產品說明中提到,公司把模型閘道、MCP閘道與AI護欄(AI guardrails)整合成單一控管體系,藉此管理權杖(token)用量與預算。
李鎮元也表示:「如果組織沒辦法掌握不同團隊、模型、供應商的權杖用量,就很難正確評估導入AI帶來的價值與成本。」這句話點出,企業級AI的支出會隨用量與呼叫架構而變動,資安與成本控管理應被放進同一套營運體系裡一併檢視。
這個趨勢與本刊先前報導的企業AI用量計費與預算管理擴散、AI代理人存取應用程式與資料方式的管理趨勢相互呼應。隨著企業AI從單純問答走向實際執行業務,權限、成本與稽核機制也一併成為檢視重點。
對南韓企業而言,控管機制的建立比導入AI的速度更早成為課題。F5 Korea表示,為擴大韓國市場布局,公司計劃在當地直接建置POP(Point of Presence),作為提供F5分散式雲端服務的全球據點基礎設施。
留言 0