Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

支援逾90種語言!ElevenLabs推出逐字稿與音訊對齊模型Cue

AI生成圖片,顯示對齊波形時間的音訊編輯畫面 / TokenPost.ai

ElevenLabs於28日推出語音對齊模型Cue,可將既有逐字稿與錄音內容對應至字元層級。

ElevenLabs在官方公告中表示,Cue支援逾90種語言。這項模型可用於語音辨識模型Scribe的轉錄請求,也以獨立的強制對齊API提供。

強制對齊是將既有逐字稿與錄音比對,找出各段內容的發話時間;這與聆聽語音後建立新逐字稿的轉錄工作不同。

Scribe將語音轉成文字後,Cue會為每個字元與單字標示開始及結束時間。公司列出的應用情境包括調整字幕、配音與歌詞的時間點。

使用獨立API時,須一併輸入音訊檔案與既有逐字稿。API會回傳字元及單字層級的開始、結束時間,以及對齊損失值。

API文件將「loss」說明為整份逐字稿的平均對齊損失/信心分數,並未表示這項指標可驗證逐字稿內容是否正確。

逾90種語言是公司公布的支援範圍。另一項公開比較評估則以實際使用請求為基礎製作錄音資料,涵蓋29種語言。

ElevenLabs的內部評估顯示,Cue在全部錄音中的平均時間誤差為179毫秒;參與比較的開源工具誤差介於283毫秒至超過6000毫秒。

公司表示,在含有背景噪音的英文錄音中,Cue的平均誤差為57毫秒;相同條件下,對照工具的誤差介於65至920毫秒。

公司以單字層級標準評估字元層級模型Cue,並表示難以建立完整的正確答案基準。公告未提供評估樣本的規模與組成、具體GPU規格或處理負載條件。

公司表示,Cue在正式環境GPU上約0.5秒即可完成1小時音訊的對齊;這項處理時間同樣是在公司自有環境中測得。

公司所稱「不受長度限制、一次完成處理」仍有API輸入條件。API文件規定檔案大小須低於1GB,且不支援說話者分離;文件未列出音訊長度上限。

語音處理中的轉錄、時間對齊與說話者辨識是不同功能。TokenPost先前報導Google轉錄模型的韓語支援與說話者辨識範圍指出,Gemini 3.5 Transcribe支援逾85種語言,最多可辨識8名說話者;辨識3名以上說話者則仍列為實驗功能。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1