Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

2分鐘資訊擷取拿滿分:Nemotron Lightning 3.5 30B A3B獲100分

AI生成圖片:檢視逐字稿與擷取結果的畫面 / TokenPost.ai

比較逾50款大型語言模型(LLM)的語音逐字稿後處理基準測試顯示,各種逐字稿長度的資訊擷取最高分模型並不相同。2分鐘區段中,Nemotron Lightning 3.5 30B A3B獲得100分。

AssemblyAI於13日公布「Voice Standard Bench」,以資訊擷取、摘要、文字校正及逐字稿整理四項任務評估LLM Gateway模型。

基準測試提供所有模型相同的逐字稿與指令,並比較品質、回應時間及每小時音訊成本,藉此從多項指標檢視模型在實際服務中處理逐字稿後續工作的表現。

這項基準測試不評估語音轉文字的辨識準確度,而是檢視模型摘要、整理逐字稿及擷取所需資訊的能力。

截至29日查閱時,資訊擷取結果表顯示:30秒區段由GPT-5.6 Sol以94分居首;2分鐘區段由Nemotron Lightning 3.5 30B A3B以100分居首;15分鐘區段由GPT-6 Luna以85分居首;60分鐘區段則由GPT-6.1 Sol以85分居首。分數滿分為100分。

上述數值是截至29日查閱時頁面所顯示的結果,並非當天執行的基準測試結果。AssemblyAI提醒,新增模型後,結果頁面的內容可能變動。

資訊擷取任務要求模型以JSON格式回傳通話參與者、待辦事項、決策,以及人物、機構、產品、日期等實體。公開驗證程式碼將participants、action_items、decisions和entities列為必要的頂層欄位。

即使逐字稿未提及某項內容,導致結果陣列為空,也不能省略該欄位;四個欄位都必須保留,才能通過格式檢查。

品質評估會檢查擷取結果是否以逐字稿原文為依據,以及是否漏掉實際提及的待辦事項、決策和實體。資訊擷取任務沒有預先設定的實體標準答案清單。

AssemblyAI的方法說明指出,資訊擷取評估在30秒、2分鐘、15分鐘及60分鐘區段各使用10份逐字稿。這與逐字稿整理任務的評估方式不同;後者會將模型回答與預先設定的實體答案逐項比對。

品質分數與速度排名也不一致。Qwen3.5 4B Fast在30秒區段的回應時間中位數為0.28秒,是最快的模型,但品質分數為80分。

同一模型在2分鐘區段的結果為0.60秒、51分;在15分鐘區段則為1.49秒、33分。結果表也另外列出格式錯誤、拒絕回應、逾時及錯誤率。

本刊先前曾報導,同一基準測試的逐字稿整理任務中,Gemini 4 Argon獲得99.5分。該任務與此次資訊擷取任務的評估內容和方式不同。

逐字稿整理會以具有標準答案的合成資料進行機械式評分;資訊擷取則以實際通話逐字稿為基礎,評估結果是否有原文依據及內容是否完整。因此,兩項任務的分數不能直接用來判斷模型的整體性能排名。

AssemblyAI建議,客戶應使用自己的逐字稿重新評估候選模型,因為實際通話內容、用詞和指令可能與基準測試資料不同。該公司也表示,分數差距在2至3分以內時,差異不大。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1