AWS接連推出代理執行環境、權限管理、基礎設施檢查與沙盒功能,將雲端服務從模型供應擴展至代理在企業系統中執行工作所需的營運工具。
AWS於9月18日公布Amazon Bedrock AgentCore新一代Runtime。根據AWS自行測試,容器映像檔為200MB至2GB時,冷啟動時間的P75為1.9至2.0秒,短於前一代V1的5.4至30秒。
新Runtime旨在回收閒置記憶體,並載入預先準備好的代理環境快照,以縮短啟動時間。冷啟動指重新啟動閒置執行環境所需的時間,並不代表代理完成整項工作的總時間;上述數據來自AWS自行測試。
AWS於9月29日以預覽版推出Bedrock Managed Agents,這項服務由AWS與OpenAI共同開發。它可在AWS環境中執行以OpenAI Agents API為基礎的代理,並為每個代理設定IAM角色,也能要求代理在執行重要操作前取得人工核准。支援的API活動會記錄在AWS CloudTrail中。
Bedrock Managed Agents預覽版目前於美國東部的維吉尼亞北部、俄亥俄,以及美國西部的奧勒岡區域提供。IAM是管理使用者與服務存取AWS資源權限的機制;為各代理設定角色及核准流程,可用來控管工作範圍與存取權限。
AWS也新增基礎設施檢查功能,並於10月1日開始公開預覽AWS Well-Architected Agent。這項服務會分析客戶環境,提出改善成本、安全性、效能與韌性的建議。客戶需設定代理可檢查的範圍及IAM角色。
AWS表示,建議內容可能包含自動化腳本或基礎設施程式碼修改方案。這項功能除了呈現基礎設施檢查結果,也設計為可提供能夠實際套用的變更方案。
10月7日公布的開源工具Strands Box,則是用來隔離代理執行工作的沙盒,目前以開發者預覽版提供,採用Apache 2.0授權。它結合作業系統層級的隔離與Dogwood政策引擎,政策判斷除了考量當前要求的工作,也會納入代理先前的行為及累計次數。
這四項產品分別處理代理營運的不同環節:Runtime負責執行環境與記憶體,Managed Agents管理工作狀態與存取權限,Well-Architected Agent檢查基礎設施,Strands Box則負責隔離工作並套用政策。當代理需要呼叫多種工具、維持中間狀態,或代替使用者執行程式碼時,這些功能都派得上用場。
Bedrock Managed Agents、Well-Architected Agent與Strands Box目前都處於預覽階段。功能、價格與效能可能調整,各產品的公開階段及提供區域也不盡相同。
留言 0