Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

Perplexity評估部署自有硬體 回應主權基金需求

連接客戶設備的 AI 運算裝置 / TokenPost.ai

部分主權基金希望在自有硬體上運行 Perplexity 的 AI 代理,並阻止公司存取資料。構想是將模型、代理與使用者工作階段都留在客戶設備上處理。

Perplexity 共同創辦人兼執行長 Aravind Srinivas 在 10 月 12 日公開的 Sourcery 訪談中表示,部分主權基金希望與政府合作,在自有硬體上運行 Perplexity Computer。他沒有透露基金名稱或涉及的國家。

Srinivas 說明,模型、代理框架、代理循環和使用者工作階段都可在客戶自有硬體上運行,Perplexity 則不檢視資料;公司會以提供軟體更新的方式支援。

他表示,這種做法必須以放棄用於改善產品的回饋循環為代價。公司尚未說明如何在客戶設備上診斷故障、管理效能,以及相關支援條件。

Perplexity 先前已推出在設備端處理 AI 的產品。公司於 8 月 25 日宣布的「Portable Computer」可在 NVIDIA DGX Spark 上運行模型、協調器和工具路由器等主要元件。公司表示,使用者可選擇將複雜工作交由雲端處理;在設備上完成的工作不會收取點數。

公司也於 9 月 1 日宣布支援 Apple Silicon Mac 的混合運算方案。雲端模型與本機模型分工處理任務,敏感資訊可留在設備上,或經遮蔽後再傳送。企業管理者可設定哪些資訊留在設備上。

主權基金提出的部署方案,在產品形式與資料存取條件上都與上述方案有所不同。混合運算會視需要連接雲端;訪談中描述的構想則是讓 Perplexity 無法查看資料與使用資訊。目前公司尚未宣布已簽署相關合約,也未表示所有功能都已能在隔離網路中運行。

機構使用自有設備,有助擴大資料控制範圍,但也需要一併訂定營運與支援條件。Srinivas 在訪談中談到的,是主權基金提出的需求,以及這種做法對產品回饋循環造成的限制。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1