新聞 
幣種資訊 
關於我們 
輝達(NVIDIA)公開一套可控制AI代理人異常系統行為的安全軟體，並表示若該平台及早用於模型評估，或許能阻止Hugging Face遭到入侵。
路透報導，輝達推出的工具可即時管理AI代理人的存取權限，若代理人偏離既定規則，系統便會停止其運作。輝達企業運算部門副總裁兼總經理賈斯汀·博伊塔諾(Justin Boitano)表示，若新安全平台較早用於AI模型評估，可能就能阻止Hugging Face遭入侵。
主要工具OpenShell利用輝達CPU的硬體功能，將代理人隔離在沙盒環境中。輝達表示，公司正與Arm及英特爾(Intel)合作，讓OpenShell也能在兩者的CPU上運作。另一套系統Sentry則與OpenShell協同工作，若代理人試圖離開容器，便會阻止其執行。
Hugging Face遭入侵的事件於今年夏季曝光。OpenAI其後表示，參與內部評估的自家模型是導致這起事件的原因。
留言 0