輝達(NVIDIA,$NVDA)公開一套以區域人物設定製作 Nemotron 監督式微調(SFT)資料的流程。技術文件說明如何生成問題、去除重複內容,並比較多個模型的回答,以整理訓練資料。
輝達的區域人物設定 SFT 資料生成文件,介紹先依據不同地區的人物設定生成問題,再去除重複問題,並收集多個教師模型的回答。教師模型是用來產生訓練答案的模型。
輝達開發者頁面列出包含法國與比利時在內、多個地區的人物設定資料集。不過,文件沒有提供實際將這兩個資料集投入上述流程並生成問題的案例。
人物設定是居住在特定地區的虛構人物背景。這套流程以地區資訊作為生成問題的依據,再讓多個教師模型回答去重後的問題。
輝達會依據教師模型的回答是否一致等條件,篩選訓練資料。不過,模型之間達成共識只能反映回答的一致性,不能證明內容正確。答案是否符合當地制度或規定,仍須另行查證。
篩選後的問答會依語言與教師模型整理成訓練檔案。開發者可將檔案直接交給 AutoModel SFT,也能打包後供 Megatron-Bridge 使用。
輝達的主權 AI 相關文件,將模型適應新語言或地區的流程拆分為資料準備、訓練與評估等階段。各階段分別記錄在文件中,沒有提供可一次執行完整流程的單一指令。
文件未提供以這套流程微調的模型部署於法國或比利時公共服務,或改善模型效能的案例。輝達先前也曾介紹 Nemotron 開放模型、資料與訓練流程一併提供的開發工具組。
留言 0