AI不法有害資訊因應 南韓放媒通委召開民官協議會第2次會議

南韓「放送媒體通信委員會」(약칭 放媒通委)27日召開第2次「人工智慧服務使用者保護民官協議會」會議,討論AI服務中不法與有害資訊的因應對策。

根據放媒通委27日公布的消息,本次會議在首爾EL Tower舉行,政府、產業界、學界與公民團體代表齊聚一堂,檢視AI服務快速擴散下既有制度未能涵蓋的使用者保護課題,並討論打造安全服務環境的制度改善方案。

當天核心議題是降低AI服務內部曝露不法、有害資訊風險的技術措施。Kakao「AI Safety」負責人金炅勳(Kim Kyung-hoon)以《AI服務不法・有害資訊因應「護欄」系統現況》為題發表演說。

金炅勳介紹了Kakao自主研發、以韓語為核心的開源AI安全驗證護欄模型「Kanana Safeguard」(카나나 세이프가드)。他同時分享了業者自律安全措施的強化方向,以及AI安全生態系合作方案。

「護欄」是防止AI服務給出不當回答或提供危險資訊的安全裝置,作法包括事前過濾曝露給使用者的答案,或限制對危險請求的回應,藉此提升服務安全性。

隨後的綜合討論由高麗大學技術經營專門大學院教授李成燁(Lee Sung-yop)主持,與會者就AI服務內不法、有害資訊曝露風險的業者自律措施活性化與民官合作方案進行討論。

李成燁表示:「討論中提到的技術趨勢,有必要反映在業者為保護使用者所訂立的相關法制過程中,藉此提升制度的實效性。」他強調技術討論不應止於宣示,而須與實際規範體系接軌。

放媒通委廣播通信使用者政策局局長申英圭(Shin Young-kyu)則表示:「倫理上無法信賴的AI技術,可能引發社會不信任,進而阻礙整個AI產業的成長」,並稱「技術振興與使用者保護所需的技術性安全措施,必須同步推進」。

放媒通委此次討論延續了將AI服務視為使用者保護規範對象、而非單純新技術的整體方向。隨著AI服務應用範圍擴大至搜尋、諮詢、內容推薦與業務自動化等領域,既有電信與平台規範已難以完全涵蓋使用者可能受害的風險,這也是此次討論的背景。

放媒通委自2021年起即營運「智慧資訊社會使用者保護民官協議會」,2024年因應AI環境變化,將其擴編改制為「人工智慧服務使用者保護民官協議會」。

今年5月,由政府、產業界、法界、學界與公民團體共35名專家組成的第2屆民官協議會正式啟動。本次第2次會議同時處理業者自律措施與制度改善討論,具有一定意義。

南韓國內AI服務規範的方向,正從單純的模型效能競爭,轉為同時要求使用者控制裝置與責任架構。本社先前曾報導,AI實驗室的安全監督討論正從員工提出問題,轉向董事會層級的責任架構。

AI安全討論同時也在追問服務業者與使用者之間的責任界線該如何劃定。業界須建立技術性阻擋裝置,監管當局則須建立檢視自律措施是否確實轉化為使用者保護的機制,這類要求正逐漸增加。

放媒通委表示,將以此次討論內容為基礎,推動打造使用者能安全使用AI服務的環境。