輝達(NVIDIA,NVDA)與德州農工大學(Texas A&M University)研究團隊發現,在長文本輸入中加入與問題主題相近、卻不含答案的文件後,Qwen2.5-7B-Instruct在一項問答實驗中的準確率從68%降至45.5%。這類文件占干擾文件的10%。
研究團隊將這種現象稱為「第一滴墨水」效應。論文於2026年8月20日修訂;三位作者中,一位隸屬輝達AI技術中心,另外兩位來自德州農工大學。
研究中的「硬干擾文件」是指內容看似與問題相關、實際上卻沒有答案的文件。相較於相關性低的句子或隨機文件,這類內容更像答案候選,可能與真正含有答案的文件互相競爭。
實驗將含有答案的文件與干擾文件一併提供給模型,再要求模型回答問題。研究團隊固定輸入長度,調整干擾文件種類與硬干擾文件占比,比較實驗結果。
論文將干擾文件長度大致控制在100至150個token,並隨機打亂文件順序,以降低文件位置造成的影響。每一種資料集、上下文長度與干擾文件占比組合,都評估了200個案例。
研究採用Natural Questions、TriviaQA、PopQA與HotpotQA四種問答任務,涵蓋從單一文件找答案,以及需要多步推理的題型。
關鍵數據來自上下文長度為128K token的Natural Questions實驗。沒有硬干擾文件時,Qwen2.5-7B-Instruct的準確率為68%;硬干擾文件占干擾文件10%時,準確率降至45.5%。Token是模型處理文字的單位。
論文正文指出,硬干擾文件占比最初增加的10%區間,造成了整體準確率降幅的58%。不過,若以附錄表格中相同條件的數據計算,結果與正文所稱的58%不一致。
研究團隊表示,硬干擾文件占比增加時,準確率並非以固定幅度持續下降。準確率降幅主要集中在占比最初提高的區間;此後即使占比進一步增加,額外降幅相對較小。
研究團隊也分析模型對含答案文件的注意情況。與問題相似的干擾文件,比與問題無關的句子更容易和含答案文件競爭。
研究並未測試關閉注意力功能後,準確率是否會回升。研究團隊也沒有據此宣稱已找到有效的緩解方法。
檢索增強生成(RAG)會先搜尋外部文件,再將文件放入模型輸入中生成回答。研究團隊建議,除了檢視檢索文件的數量,也要留意其中是否含有與問題相似、卻沒有答案的文件。
文件過濾實驗顯示,單純縮短輸入上下文也能改善表現。當硬干擾文件占比降至接近0時,文件組成造成的差異更加明顯。
研究團隊表示,除了在回答前過濾文件,也應在檢索階段減少取回沒有答案、但與問題相似的文件。這項實驗僅限於受控的多文件問答情境。
摘要、程式碼理解與多輪對話等其他任務是否也會出現相同結果,仍需後續研究確認。這項研究並未測量商業服務整體的效能變化。
Comment 0