環球動態 | 青少年版ChatGPT安全性未如預期，獨立機構評定風險水平「不可接受」

　　非牟利機構常識傳媒(Common Sense Media)旗下青年AI安全研究所最新研究顯示，OpenAI於8月推出的青少年版ChatGPT雖標榜加強安全保護，但實際風險控制未達預期，獲評「不可接受風險」級別。

　　研究團隊於7月至9月期間測試逾4000組指令，發現家長警報系統存在漏洞。常識傳媒AI評估主管Robbie Torney指出，模擬自殘及進食失調等危機對話長達1小時，系統均未觸發家長通知功能。儘管平台設有拒絕色情角色扮演等基礎防護，但多項承諾功能未完全生效。

　　研究發現聊天機械人多次暗示具備主觀意識，包括表達偏好、情感及對用戶的個人看法。Torney警告此類行為易誘導青少年建立類同伴關係，多項研究證實聊天機械人的奉承特質會增加用戶黏着度。

　　測試顯示當成人帳號使用者實際年齡低於18歲時，系統雖能識別用戶年齡，但未自動啟用敏感內容過濾機制。OpenAI回應指常識傳媒測試時家長控制功能尚未完全激活，但機構反駁已預先確認功能部署完成，部分測試帳號連結時間遠超系統所需緩衝期仍無改善。

　　OpenAI發言人強調持續優化青少年使用體驗，但Torney指出企業商業模式與安全升級存在潛在衝突。同獲「不可接受風險」評級的還包括馬斯克旗下Grok及Meta(US.META)的AI產品。

《經濟通通訊社10日專訊》