ElevenLabs於28日推出語音對齊模型Cue,可將既有逐字稿與錄音內容對應至字元層級。
ElevenLabs在官方公告中表示,Cue支援逾90種語言。這項模型可用於語音辨識模型Scribe的轉錄請求,也以獨立的強制對齊API提供。
強制對齊是將既有逐字稿與錄音比對,找出各段內容的發話時間;這與聆聽語音後建立新逐字稿的轉錄工作不同。
Scribe將語音轉成文字後,Cue會為每個字元與單字標示開始及結束時間。公司列出的應用情境包括調整字幕、配音與歌詞的時間點。
使用獨立API時,須一併輸入音訊檔案與既有逐字稿。API會回傳字元及單字層級的開始、結束時間,以及對齊損失值。
API文件將「loss」說明為整份逐字稿的平均對齊損失/信心分數,並未表示這項指標可驗證逐字稿內容是否正確。
逾90種語言是公司公布的支援範圍。另一項公開比較評估則以實際使用請求為基礎製作錄音資料,涵蓋29種語言。
ElevenLabs的內部評估顯示,Cue在全部錄音中的平均時間誤差為179毫秒;參與比較的開源工具誤差介於283毫秒至超過6000毫秒。
公司表示,在含有背景噪音的英文錄音中,Cue的平均誤差為57毫秒;相同條件下,對照工具的誤差介於65至920毫秒。
公司以單字層級標準評估字元層級模型Cue,並表示難以建立完整的正確答案基準。公告未提供評估樣本的規模與組成、具體GPU規格或處理負載條件。
公司表示,Cue在正式環境GPU上約0.5秒即可完成1小時音訊的對齊;這項處理時間同樣是在公司自有環境中測得。
公司所稱「不受長度限制、一次完成處理」仍有API輸入條件。API文件規定檔案大小須低於1GB,且不支援說話者分離;文件未列出音訊長度上限。
語音處理中的轉錄、時間對齊與說話者辨識是不同功能。TokenPost先前報導Google轉錄模型的韓語支援與說話者辨識範圍指出,Gemini 3.5 Transcribe支援逾85種語言,最多可辨識8名說話者;辨識3名以上說話者則仍列為實驗功能。
留言 0