Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

Mistral AI公開預覽OpenAI Responses格式API,對話紀錄由開發者管理

開發者在筆電上測試對話式 API 的雙手 / TokenPost.ai (mono)

Mistral AI推出公開預覽版API,可透過OpenAI Responses格式呼叫自家模型。由於服務不會在伺服器端保存對話狀態,開發者必須自行管理對話紀錄。

API端點為「/v1/responses」。Mistral AI在官方文件中表示,API支援文字生成、圖片與文件輸入、函式呼叫及串流回應,並提供Python與TypeScript官方開發工具。

以Responses格式建置的既有串接功能,可用來呼叫Mistral AI模型。不過,請求格式相同不代表各項功能或不同模型的支援範圍完全一致。

圖片可透過URL或base64資料輸入;檔案則可使用HTTPS網址、base64資料或已上傳檔案的識別碼傳送。圖片處理僅適用於支援視覺功能的模型。

回應除了可採一般文字,也能依JSON或JSON Schema指定的格式輸出,方便應用程式處理符合特定資料格式的結果。

啟用串流後,應用程式可依序接收逐步生成的內容,不必等到完整回答產生。API也支援函式呼叫,但函式實際執行仍由開發者的程式負責。

當模型要求使用外部功能時,應用程式須確認函式與參數、執行函式,再將結果傳回模型。Mistral AI的文件以查詢訂單狀態作為範例。

API不會保留不同請求之間的對話狀態。若要延續對話,開發者必須儲存先前的訊息與模型回應,並在下一次請求中重新提供。

推理設定的支援範圍會因模型而異。Mistral AI文件中的範例使用「mistral-large-4」,並提醒開發者選用其他模型時,應指定該模型支援的推理強度。

Mistral AI此前完成規模30億歐元、由三星電子(Samsung Electronics)主導的D輪募資。公司當時表示,計畫將資金投入AI研發、運算能力、基礎設施與產品開發。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1