Tether(泰達)於16日發布裝置端人工智慧(AI)開發工具QVAC SDK 0.24.0。新版的核心功能是讓多項任務共用同一個AI執行環境時,仍可分別管理各呼叫端的模型使用權限與取消操作。
GitHub版本發布說明指出,新版加入呼叫端專屬的工作階段與模型使用權限。即使同一款應用程式中的多項功能使用同一個模型,也能區分各自的請求。
每個呼叫端都能取得所用模型的使用權限。取消一項任務不會中止其他呼叫端的請求;模型會等所有正在使用它的呼叫端完成工作後,才從記憶體中卸載。
新版也加入嵌入(embedding)功能,可將文字或圖片等資料轉成數值形式,用於搜尋與比較。
對話可從既有的提示詞快取開始,新版也能計算輸入 token 數量。工具搜尋範圍限制功能則讓開發者能調整應用程式的AI請求與工具使用方式。
語音辨識新增控制選項與中繼資料;語音合成支援分段輸出及引擎控制,音樂生成則支援串流與編碼輸出。圖片生成的控制功能也有所更新。
新版可續傳中斷的模型檔案下載,也支援多個處理程序共用模型登錄表。版本發布項目還包括各裝置的記憶體適用性資訊,以及AMD NPU與整合式GPU記憶體的相關支援。
Python與Kotlin開發工具也同步更新至0.24.0,開發者可在這兩種環境中使用相同版本的SDK功能。
新版另加入向量索引調整與分階段搜尋功能,協助開發者更有效率地處理搜尋結果。向量索引會儲存資料的嵌入表示,用來尋找相似內容。
若開發者將工作者程式直接打包進應用程式後發布,須配合新版重新打包。使用預設工作者、未另外打包的應用程式,則不必只因這項變更而重新打包;這是版本發布說明中的提醒。
QVAC不是單一AI模型,而是一套在裝置上執行模型並將模型連接至應用程式的開發環境。Tether於2025年5月14日公布QVAC構想,並於2026年4月9日推出SDK。
Tether曾介紹,QVAC支援在iOS、Android、Windows、macOS與Linux等平台執行模型及微調。產品說明列出文字生成、語音辨識、翻譯與圖片處理等功能。
在裝置上執行AI模型,可不將輸入內容傳送至遠端AI伺服器而完成處理。不過,若應用程式呼叫外部搜尋或線上服務,資料仍可能傳出裝置,因此不能僅憑使用QVAC就判定整款應用程式如何處理個人資料。
Tether於11日也發布小型代理模型BotPsy。本刊先前整理過BotPsy的自行評測結果,以及模型卡所列的使用限制。這次SDK更新是另一項開發工具發布,與模型發布分開。
QVAC與加密資產的連結則在另一套錢包開發工具WDK。Tether於2025年5月14日公布QVAC時,曾提出透過WDK讓AI代理交易比特幣(BTC)與泰達幣(USDT)的構想。本刊先前也報導過,AI代理錢包的支出限額須由開發者設定。此次SDK發布並未表示WDK交易功能已成為內建功能。
Comment 0