Cohere開放Model Vault機密運算公測，採用Azure與H100

Cohere於10月22日宣布，企業級AI服務Model Vault的機密運算功能開放公開測試，讓客戶端程式在傳送敏感請求前，先確認處理環境是否符合安全政策。

Cohere在官方公告中表示，這項功能使用微軟（Microsoft，MSFT）的Azure基礎設施與輝達（NVIDIA，NVDA）的H100 GPU。系統會在處理請求期間檢查硬體與軟體配置，確保作業只在符合核准安全政策的環境中進行。

客戶端程式會在送出請求前，將處理環境的硬體、韌體與軟體配置和政策比對；若未符合要求，就不會送出請求。

請求內容只會在通過驗證的機密執行環境中解密。Cohere表示，系統會在推論期間保護GPU記憶體，也會加密CPU與GPU之間的通訊。

Cohere列出的適用資料包括金融資訊、臨床紀錄、法律文件與內部原始碼等。不過，公司表示，機密運算無法取代應用程式安全、法規遵循或資料儲存地區方面的要求。

這次公開測試也讓Cohere先前計畫將輝達的機密運算方案整合至Model Vault一事，進一步落實為產品功能。新功能延伸了Model Vault原有的專用模型推論服務，讓客戶能用於敏感業務。

Cohere執行長艾丹·戈梅茲（Aidan Gomez）在2025年6月5日公開的訪談中表示：「過去8年來，改變竟然如此少，令人驚訝。」他指的是自己共同署名的Transformer論文，與當時正在訓練的模型架構看來相似。

戈梅茲解釋，業界已建置大量配合Transformer的基礎設施，晶片也針對這類架構進行最佳化。若要改用其他架構，就得重新設計系統，因此轉換需要投入大量工作。

他也表示，狀態空間模型（SSM）等替代方案研究中的部分想法，已融入Transformer。因此，訪談中提到的「8年」不能解讀為模型架構完全沒有改變。

戈梅茲在同一場訪談中回顧，Cohere曾評估客服支援與聊天機器人等企業應用，之後決定成為企業AI公司。這段談話說明的是Cohere的業務選擇。

戈梅茲提到的Transformer論文《Attention Is All You Need》於2017年6月12日刊登在arXiv，作者名單包括戈梅茲。訪談所說的「8年」，指的是論文公開至訪談當時的時間。

Transformer的替代架構研究仍在進行。2026年3月公開的Mamba-3論文提出狀態空間模型系列的改進；這類模型會逐步更新輸入狀態來處理資訊。

研究團隊指出，理論上運算量較低的模型，實際在硬體上執行時也可能效率不佳。這項研究探討的是替代架構設計，不能據此認定Transformer已在產業中被取代。

Cohere委託IDC進行的調查於2026年4月至5月訪問加拿大、美國、英國與德國超過500名企業領袖；受訪者皆為負責AI採購的總監級以上人士。受訪者將資料外洩與法規遵循列為主要疑慮，並把成本與基礎設施視為導入障礙。

由於調查由Cohere委託進行，結果不宜直接視為代表整體產業的獨立統計。Model Vault的機密運算功能目前以公開測試版提供，客戶可建立加密資料庫，並透過既有的Cohere API串接。