200萬美元承諾支持兒童AI研究，OpenAI簽署安全憲章

OpenAI承諾投入200萬美元（約26.7億韓元），支持開發共同工具，衡量AI對兒童帶來的風險與機會。資金將支持「AI時代兒童權利與保護聯盟」旗下的科學研究網絡。

OpenAI於12日發布公告表示，已在巴黎和平論壇簽署「讓兒童更安全參與AI承諾憲章」，並支持這個研究網絡。公告列出資金承諾，但未說明款項是否已實際支付。

巴黎和平論壇於10日表示，AI開發商與安全團體承諾投入的研究及工具開發資金合計800萬歐元。這筆金額是多個參與方的總和，涵蓋範圍與OpenAI承諾的200萬美元不同。

法國總統府公布的憲章列出OpenAI、Anthropic、Black Forest Labs及微軟(Microsoft, $MSFT)為支持企業。研究資金承諾方與憲章支持企業是兩份不同名單。

憲章提出共同原則，包括保障兒童安全、隱私及最佳利益，採用符合年齡的設計並讓家庭與兒童參與，維護倫理、公平與包容，落實資料最小化與年齡確認，防止兒童性剝削影像及未經同意的私密影像，並推動AI素養教育。這些原則旨在把保護措施納入兒童可使用的AI系統設計與營運流程。

簽署憲章的企業若開發或提供未成年人可使用的AI系統，須在上線前視需要進行風險評估與測試，並在上線後定期評估。企業也須建立風險緩解措施，以及偵測並處理兒童相關重大事件的機制。

研究網絡將由獨立科學委員會指導。研究團隊可自行決定研究結論，也須公開負面、效果不明顯或仍有不確定性的結果。

企業可以稽核自家系統採用的評估方法，也可以提出方法上的疑慮，但無權控制安全標準與研究結論，也不能延後研究結果公開。

企業資金將用於共同測量研究；觀察研究、發展影響研究、科學委員會報酬，以及評估與標準研究，則由公共資金和獨立慈善資金支持。

憲章指出，目前關於兒童與青少年反覆使用生成式AI的長期研究仍不足。相關工作將參考既有發展科學與早期研究制定保護措施，並隨新證據累積更新。研究範圍也包括AI可能帶給兒童的機會，例如學習與創作。

巴黎和平論壇於11月10日至11日舉行兒童峰會。法國總統馬克宏(Emmanuel Macron)表示：「任何AI都不應在未經測試、評估及相應核准前提供給兒童。」

OpenAI也表示，應同時確保有力且可執行的兒童安全法規，以及兒童為學習與創作使用AI的機會。公司提出的主要措施包括符合年齡的預設保護、家長工具、定期風險評估與問責機制。

憲章要求參與者公開支持目的、投入資源及執行時程。OpenAI的公告未提供研究網絡的具體組成，也未列出個別資金的投入時程。