LLM體驗差距擴大　卡帕西：使用者分布呈更陡峭漏斗

多數人幾乎沒有使用過大型語言模型（LLM），少數熟練運用最先進模型的使用者，則已看到代理程式處理過去需要數週甚至數月才能完成的複雜任務。安德烈·卡帕西（Andrej Karpathy）表示，兩者的體驗差距正像更陡峭的漏斗般擴大。

卡帕西於11日（當地時間）在X發文，重提自己4月發布的內容，並將使用者分成四個層級。ChainCatcher根據該貼文報導他的說法。卡帕西表示，文中列出的人數是大致估計，並非調查結果。

卡帕西估計，約有60億人幾乎未接觸LLM，約占全球人口75%。另有約10億至20億人偶爾使用免費版ChatGPT或類似產品；他說，這些人多半把LLM視為搜尋或寫作輔助工具。

再往上一層，約有2000萬人在數學與程式領域專業使用最先進模型。卡帕西表示，他們會透過提示詞讓代理程式執行複雜專案，這類工作過去可能需要數週或數月。他列舉的例子包括開發或複製應用程式、翻譯應用程式，以及從二進位檔逆向分析應用程式。

卡帕西補充，直到不到一年前，他仍逐行親自撰寫程式碼。對熟練使用最先進模型的人來說，讓代理程式實際承接工作，是與日常使用經驗有所區別的關鍵。

最頂層則約有5000人能在內部接觸最先進系統。卡帕西表示，從對外公開的預覽中，可以看到數千個代理程式花數週處理大型軟體專案，並進行科學發現與數學研究。

他也指出，人類的審查與理解速度開始落後。圍繞OpenAI與Hugging Face相關事件的分析，在數月後仍持續進行；數學家審閱722篇最先進的數學論文，也可能需要很長時間。

卡帕西將體驗差距擴大的原因，歸納為問題規模與執行時間、不同領域的能力差異，以及模型的存取層級。他表示，只要求簡短回答的問題，無法充分檢驗系統能力；規模大、耗時長的任務，則能展現代理程式的應用範圍。

他說，模型在成果容易於數位環境中驗證、且具有經濟價值的領域，能力尤其突出。免費與付費產品的差異，以及能否取得內部系統，也會影響使用者的體驗。

卡帕西提出的人數與比例均為個人估計。他的分層說明，即使接觸的是相同LLM，使用頻率、存取權限與交付任務的性質不同，使用者的體驗也可能有所差異。