Mistral AI推出公開預覽版API,可透過OpenAI Responses格式呼叫自家模型。由於服務不會在伺服器端保存對話狀態,開發者必須自行管理對話紀錄。
API端點為「/v1/responses」。Mistral AI在官方文件中表示,API支援文字生成、圖片與文件輸入、函式呼叫及串流回應,並提供Python與TypeScript官方開發工具。
以Responses格式建置的既有串接功能,可用來呼叫Mistral AI模型。不過,請求格式相同不代表各項功能或不同模型的支援範圍完全一致。
圖片可透過URL或base64資料輸入;檔案則可使用HTTPS網址、base64資料或已上傳檔案的識別碼傳送。圖片處理僅適用於支援視覺功能的模型。
回應除了可採一般文字,也能依JSON或JSON Schema指定的格式輸出,方便應用程式處理符合特定資料格式的結果。
啟用串流後,應用程式可依序接收逐步生成的內容,不必等到完整回答產生。API也支援函式呼叫,但函式實際執行仍由開發者的程式負責。
當模型要求使用外部功能時,應用程式須確認函式與參數、執行函式,再將結果傳回模型。Mistral AI的文件以查詢訂單狀態作為範例。
API不會保留不同請求之間的對話狀態。若要延續對話,開發者必須儲存先前的訊息與模型回應,並在下一次請求中重新提供。
推理設定的支援範圍會因模型而異。Mistral AI文件中的範例使用「mistral-large-4」,並提醒開發者選用其他模型時,應指定該模型支援的推理強度。
Mistral AI此前完成規模30億歐元、由三星電子(Samsung Electronics)主導的D輪募資。公司當時表示,計畫將資金投入AI研發、運算能力、基礎設施與產品開發。
留言 0