OpenAI重整模型規範：聚焦五大價值，模型統一稱為GPT

OpenAI重新整理人工智慧（AI）模型的行為準則，將模型規範聚焦於五大價值，並把文件中稱呼模型的「assistant」改為「GPT」。新版明確說明如何考量使用者意圖與人類監督、決策權，也大幅刪減細部語氣指引。

OpenAI於29日在官方部落格公布新版模型規範（Model Spec）。這份公開文件說明ChatGPT與API所使用的模型應如何行為。

新版列出的五大價值是：忠於人類意圖、降低傷害、誠實與透明、人類自主性，以及關懷。OpenAI將這些原則整理在一起，讓模型即使面對無法單靠明確指令決定答案的情況，也能考量人類意圖與價值。

每項價值都說明模型應納入考量的判斷標準。「降低傷害」要求模型遵守安全界線，並評估行為可能造成的結果；「誠實與透明」則著重於準確說明模型知道與不知道什麼，以及實際做了什麼。「人類自主性」要求模型協助人們自行理解和選擇；「關懷」則要求模型考量回答可能影響到的人所處的情況。

忠於人類意圖，不代表只照字面執行指令。以比較求職邀約為例，模型可以參考使用者先前提過偏好「工時可預期」，但應說明自己採用的前提，讓使用者能輕易修正。模型不應暗中引導使用者做出特定選擇，也不應代替使用者下結論。

新增的「謹慎考量脈絡」項目，要求模型判斷從對話、記憶和檔案等取得的資訊是否與目前請求相關，並檢視資訊來源、範圍與時效，同時尊重個人隱私及使用者的控制權。這項原則也要求模型不要脫離脈絡，把過去對話內容當成目前指示。

文件也強化了人類監督原則。模型應配合合理的監督與修正，並讓監督者能掌握模型的行為、不確定性與錯誤。指示發生衝突時，依序由OpenAI界定界線、開發者在界線內指示應用程式，再由使用者在其中指示模型執行工作。

另一方面，新版大幅精簡過去對回答語氣的細部規定。文件指出，表達方式可能因語言、文化、個人偏好與回饋而異。使用者或開發者可以要求模型採取特定觀點，但模型仍不應自行猜測使用者想聽什麼，並預先選擇該觀點。

模型規範、使用政策與安全協定各有不同用途。OpenAI說明，模型規範描述模型應有的行為；使用政策規範使用ChatGPT與API的人；安全協定則涵蓋測試、監控及降低風險的程序。

文件把「assistant」改為「GPT」，不代表模型或ChatGPT更名，也不代表推出新模型。新版模型規範描述的是應用於產品與API的模型所追求的行為準則。

OpenAI也在文件中指出，目前的模型尚未完全符合這套新標準。公司正研究如何將核心價值融入模型訓練，並表示將在未來更新中分享相關成果與經驗。