美國參議員要求 Google(GOOGL)調整政策,讓學校在繼續使用搜尋服務時,也能單獨關閉搜尋內的生成式 AI 功能。Google 搜尋與 Gemini 應用程式分開管理,和關閉搜尋內的 AI 功能,是兩個不同問題。
美國參議員愛德華·馬基(Edward J. Markey)9日致函 Alphabet 與 Google 執行長桑達爾·皮查伊(Sundar Pichai),表示:「學校有權在不放棄重要教育工具使用權的情況下,阻止學生使用 AI 聊天機器人。」他主張,學校限制 AI 使用時,不應因此被迫放棄搜尋服務。
馬基詢問,學校是否能在學生帳戶中關閉 AI 摘要(AI Overviews)、Gemini 與引導式學習(Guided Learning),同時繼續使用 Google 搜尋。他也詢問,Google 能否在技術上提供不含 AI 功能的搜尋結果。
他並要求 Google 提供相關資料,說明公司是否調查過生成式 AI 對中小學生安全、心理健康與學習的影響,以及有多少學校和學區限制學生使用搜尋以外的生成式 AI。
爭議起因於 Google 3日公布的學校帳戶設定調整。Google表示,將在K-12學生帳戶中預設關閉搜尋、Gemini、Gemini Notebook,以及Google Classroom內的Gemini功能,並由學校管理員自行開啟。
Google表示,學校可以分別允許使用搜尋與Gemini應用程式。不過,學校若開放搜尋,目前沒有設定可讓管理員只關閉搜尋內的AI功能。
本刊先前報導,學校即使能分別設定搜尋與Gemini應用程式,仍無法關閉搜尋內的AI功能。馬基此次致函,是要求Google正式說明相關設定是否可行,並提供學生影響評估資料。
Google也表示,將把引導式學習功能擴展到搜尋與教育產品。這項功能不會直接給出答案,而是透過一連串問題,引導學生逐步解題。
Google在3日的公告中表示,計劃於11月下旬在美國部分學校試行搜尋中的引導式學習功能,收集教育工作者的意見後,再擴大至其他學校。
Google主張,讓學校管理員決定學生帳戶能否使用 AI 產品,有助於管理課堂上的 AI 使用。公司表示,未來幾個月將向學校說明設定調整的詳細內容。
馬基在信中指出,Google在教育科技市場的地位,讓這項議題更加重要。他認為,如果學校必須接受 AI 功能才能繼續使用搜尋,學生與學校的選擇權就會受到限制。
兒童媒體評估組織 Common Sense Media 於7月15日公布自家評估,將 Google 搜尋的 AI 摘要與 AI 模式(AI Mode)列為對兒童構成「不可接受風險」。該組織旗下 Youth AI Safety Institute公布的結果指出,搜尋 AI 曾漏掉危機訊號,或提供不恰當建議。
Common Sense Media 的評估團隊使用設定為11歲與15歲學生情境的 SafeSearch 帳戶,進行超過2600次搜尋。該組織表示,AI 模式為測試中的180道作業題提供完整答案;在歷史問題中,每10題有4題以上在重複搜尋時出現大幅不同的答案。
評估也列出搜尋 AI 漏掉自殺意念跡象、加深妄想或偏執想法,以及對飲食失調表示認同等案例。Common Sense Media建議,搜尋 AI應在未成年帳戶中預設關閉,並讓學校與家庭管理這項功能。
馬基要求 Google 在11月30日前以書面回覆。
Comment 0