未滿18歲ChatGPT使用者將受武器資訊限制，OpenAI也減少大規模攻擊細節

OpenAI將限制被判定為未滿18歲的ChatGPT使用者取得武器與保全系統的實用資訊，即使提問未顯示暴力意圖也一樣。所有年齡層的使用者，也將較難取得可能用來重現過去大規模攻擊的細節。

OpenAI於10月30日的官方公告表示，新保護措施預計在未來幾週內開始推出，之後也會持續調整安全機制。

既有政策禁止提供協助策劃或實施暴力的回答，也限制協助青少年尋找或取得武器的資訊。這次措施進一步擴大限制範圍，涵蓋可能被用於暴力的武器與保全系統實用資訊。

青少年仍可使用ChatGPT詢問如何預防暴力、緩和衝突、尋求協助，或聯繫可信任的成年人；限制對象是可能被用於暴力的實用資訊。

新措施也適用於所有年齡層。ChatGPT將減少提供過去大規模攻擊所用武器與設備的資訊、取得方式，以及可能助長攻擊者聲名的傷亡規模比較細節。

即使相同資訊可在其他網站取得，或使用者提問的理由不同，這項限制仍會生效。使用者仍可討論受害者與社區受到的影響，以及如何預防暴力。

如果近期對話出現可能暗示暴力風險的訊號，ChatGPT將更謹慎地回應可能遭濫用的資訊。系統會把近期對話中的警訊納入考量，而非只根據單一問題判斷。

OpenAI也正在開發功能，讓涉及沉迷暴力或流露嚴重傷害他人想法的對話能自動結束。如果對話因同一原因多次結束，帳戶可能會暫時停用。

OpenAI此前已強化13至17歲使用者的ChatGPT保護措施。這次公告也提到，公司將加強年齡推估機制，綜合使用模式等多種訊號，並在使用期間持續評估；必要時，系統會切換至青少年使用體驗。

若成年人被誤判為未滿18歲，可透過年齡驗證業者Persona確認成年身分，解除額外的青少年保護限制。年齡推估不是身分證查驗，而是根據多種訊號判斷使用者未成年的可能性。

家長通知範圍也將擴大。目前，青少年帳戶若因違反暴力相關使用政策而停用，OpenAI會通知已連結的家長；未來若帳戶因反覆進行暴力相關對話而暫停，也會通知家長。

Common Sense Media於10月7日表示，該機構在青少年版ChatGPT評估中測試了超過4000個問題與指令。研究人員指出，在新建立的家長連結帳戶中，即使對話持續涉及自殺想法、自我傷害或飲食失調，家長帳戶仍未收到通知。

這項調查在此次武器資訊限制公告之前公布，評估的是青少年版ChatGPT既有的保護功能，因此結果不能用來判斷新限制是否有效。

OpenAI表示，2026年第三季已將超過200起與迫近暴力威脅相關的案例移交執法機關。公司預計於2027年初發布首份社區安全報告，說明系統如何偵測、調查並處理暴力及其他社區安全問題。

首份報告將涵蓋2026年下半年，之後每六個月更新一次。