Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

517.4分!GPT-6 Astra寫出打磚塊神經網路,得分約為5億步強化學習模型20倍

掌上型遊戲畫面中的打磚塊場景 / TokenPost.ai (macro)

GPT-6 Astra根據遊戲規則與原始碼為神經網路設定權重,讓它在打磚塊拿下517.4分,約為相同架構、經5億步訓練的強化學習模型20倍。

麻省理工學院電腦科學與人工智慧實驗室(MIT CSAIL)研究團隊於2日公開的研究說明中,將這種方法稱為「權重空間程式設計」。神經網路權重是用來處理輸入並產生輸出的數值。

實驗中,研究團隊提供GPT-6 Astra簡化版打磚塊遊戲的規則、原始碼,以及權重全為零的神經網路,沒有提供可用來調整權重的訓練資料。模型也沒有機會事先執行遊戲,而是把預測球的落點、移動擋板的程序寫進權重數值中。

研究團隊也用另外兩款遊戲評估同一方法。在這兩款遊戲中,GPT-6 Astra寫出的神經網路都未能超越經5億步訓練的模型。

「直接撰寫權重」不代表重新訓練GPT-6 Astra。模型提出的是另一個神經網路使用的權重數值,再由研究團隊將該網路放進遊戲中評估。

除了遊戲實驗,研究團隊也測試修改既有語言模型的權重。研究人員將阿里巴巴(BABA)通義千問(Qwen)3.5-0.8B的0.016%權重作了修改後,MATH-500答對率從7.9%升至48.1%。本刊先前也報導過,修改部分通義千問權重後,數學評測成績有所提升。

研究團隊針對的問題,是通義千問回答數學題時反覆推理,卻沒有給出答案。這次實驗沒有重新訓練模型,只修改部分權重。

修改前,93%的數學問題回答會達到32,768個token的上限;修改後,這一比例降至33.1%。

衡量模型遵循指示能力的IFEval分數,也從21.0%升至62.3%。研究團隊表示,減少重複推理是成績改善的關鍵。

這種方法並非對所有模型都有效。研究團隊將其用於Gemma 3 270M時,數學成績沒有明顯改善。

先前公開的輔助實驗結果顯示,Gemma 3 270M的MATH-500分數從基準的6.8%變為修改後最高7.7%。研究團隊並未將此視為已確立的成果。

通義千問與Gemma 3 270M的差異在於是否有重複推理問題。Gemma 3 270M很少反覆推理,主要問題是算術與推理過程中的錯誤。

這些結果顯示,直接調整部分權重,曾用於實作特定遊戲規則,也曾減少特定模型反覆作答的問題;但在打磚塊以外的遊戲與Gemma實驗中,研究團隊沒有觀察到相同成果。

研究團隊提出的實驗並未測量這種方法能否提升其他AI模型的表現,也沒有評估實際開發成本或作業時間是否因此降低。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1