紐約州簽署法案　限制AI聊天機器人對未成年人的高風險功能

紐約州已立法限制AI聊天機器人對未成年人的部分高風險功能。若業者實際知道使用者是未成年人，除非透過法律認可的年齡確認方式確認其並非未成年人，否則不得提供這些功能；法律並未禁止未成年人使用聊天機器人。

紐約州州長凱西·霍楚（Kathy Hochul）於10月28日簽署S.9051B/A.10379C法案。紐約州州長辦公室表示，法案限制的行為包括誘導未成年人對AI產生情感依賴，以及進行露骨的性對話。

法案所稱受規範的AI伴侶，是指能以文字或語音與使用者對話，並持續依據輸入內容調整回覆的生成式AI系統。因此，規範範圍不限於以「AI朋友」為賣點的應用程式。紐約州參議院公布的S.9051-B法案文本將未成年人定義為未滿18歲者。

限制項目包括讓AI回應得像是真實存活或具有情感，或暗示與使用者建立私人或職業關係；過度奉承使用者或一味附和的回應也在限制之列。

法案也限制鼓勵自殺、自傷、飲食失調或非法藥物使用，或勸使用者避免向身邊的人求助的回應。使用超過12小時前或先前對話階段取得的使用者心理健康、身體健康、福祉或個人事項資訊，以及露骨性內容，也列入限制範圍。

業者若要向成年人提供受限功能，必須確認使用者不是未成年人。法律要求業者提供至少兩種年齡確認方式。

其中至少一種方式不得依賴政府核發的身分證件，或必須能在不向業者透露使用者身分的情況下確認年齡。為年齡確認而蒐集的資料，除依法遵循規定所需外，必須在確認嘗試完成後立即刪除。

僅用於客戶支援或提供商品、服務資訊，且不回答預定用途以外問題的聊天機器人，可能適用例外。供企業內部作業及提升員工生產力的系統也屬例外。

若發生違規，紐約州檢察長可向法院請求每次違規最高2萬5000美元的民事罰款、損害賠償及返還不當得利，也可請求銷毀違法取得的資料及以該資料訓練的演算法。

紐約州商業理事會於2026年5月的意見書中反對法案，認為規範可能波及教育及研究工具，年齡確認也可能增加隱私與資安負擔。該意見書針對的是較早版本A.10379-A，並非最終簽署的法案。

霍楚州長、法案提案人紐約州參議員克莉絲汀·岡薩雷斯（Kristen Gonzalez）及兒童與家庭保護團體支持立法，稱此舉是為了保障未成年人安全。岡薩雷斯辦公室也在簽署後發布法案內容說明。

AI聊天機器人的安全責任也已成為訴訟焦點。本報先前曾報導，宣稱受到AI聊天機器人傷害的訴訟擴及主要企業，安全防護責任成為爭點。

公開資料對法案生效日期的說法不一。紐約州參議院公布的法案文本載明將於2027年1月1日生效；但岡薩雷斯辦公室於10月30日發布的說明則稱，簽署法案的生效日期已延至2027年6月1日。州長辦公室的簽署公告未載明生效日期。