生成式AI上市前應先評估　法國專家委員會提18項建議

法國專家委員會建議，面向一般消費者的生成式人工智慧（AI）進入歐洲市場前應先評估風險，上市後也要持續檢視影響。

法國總統府（Élysée）於11月10日表示，由人工智慧與數位委員會成立的專家委員會已向總統艾曼紐・馬克宏（Emmanuel Macron）提交「生成式AI與脆弱性」報告。委員會由9名跨領域專家組成，並與醫療、研究、教育、企業及兒少保護團體等相關人士進行55次意見交流，提出18項建議。

建議的上市前評估對象是面向一般消費者的對話式AI，也包括整合在社群平台中的聊天機器人；企業內部使用的AI則不在評估建議範圍內。委員會建議由多領域專家進行獨立評估，檢視產品可能造成的心理與社會影響。

委員會也建議，產品推出後持續追蹤對使用者的影響，若模型有重大變更則重新評估。報告並提出建立法律架構，讓獲授權的主管機關與研究人員能取得使用、訓練及營利相關資料。

在產品設計方面，委員會建議規範一味附和使用者或刻意塑造擬人形象的設計。未成年人可使用的服務應過濾危險請求，並預設採取安全設定。若AI回答受到商業因素影響，應清楚標示；委員會也建議禁止隱藏式廣告，以及利用使用者脆弱性的商業影響手法。

如果AI從對話推斷使用者的健康狀況、政治傾向等資訊，應告知推斷的資訊類別，並讓使用者查看推斷結果或提出異議。報告也建議，商業用途應設置符合個人資料保護規範的防護措施，並讓使用者可以拒絕相關使用。

教育與因應假訊息也列入建議。委員會主張從年幼時期開始教導AI的使用方式與風險，並建立政府部門與開發業者間的快速資訊交換機制，以因應AI生成的假訊息擴散。法國今年初的生成式AI不重複使用者達3,300萬人。

委員會肯定生成式AI的應用潛力，但認為現行法規分散在多部法律中，評估工作也過度偏重事後檢查。這份文件屬於專家委員會提出的政策建議，提交報告本身不會直接形成法律義務。