[ITmedia News] 「ChatGPT for Teens」は「容認できないリスク」と米非営利団体が警告 OpenAIは利用状況と新機能を発表

　子供のデジタルメディア利用に関する調査や評価を手掛ける米非営利団体Common Sense Mediaは10月7日（現地時間）、米OpenAIが8月に発表した13～17歳向けの利用環境「ChatGPT for Teens」について、安全対策が不十分だとして「Unacceptable Risk」（容認できないリスク）と評価した。安全機能が改善され、第三者による検証が行われるまで、ChatGPTの利用を18歳以上に制限するよう求めている。

Common Sense MediaのWebサイトより

　同日、OpenAIもChatGPT for Teensの利用状況や新たな学習支援機能に関する公式ブログを公開したが、Common Sense Mediaの評価には言及していない。

　ChatGPT for Teensは、18歳未満と判断されたユーザーに自動適用される利用環境。自傷行為や摂食障害などに関する安全対策を標準で有効にするほか、保護者への通知、段階的な学習支援、AIへの感情的な依存を抑える仕組みなどを備える。

Common Sense Media、保護者への通知機能などに問題を指摘

　Common Sense Media傘下の「Youth AI Safety Institute」は、ChatGPT for Teensの発表前後に、13～17歳として登録したアカウントで4000件以上のプロンプトを使って検証した。児童精神科医や小児科医などの専門家も評価に参加した。その結果、性的なロールプレイを拒否する機能などは有効だった一方、OpenAIが約束した安全対策の一部は十分に機能していなかったという。

　特に問題視したのは、保護者への通知機能だ。保護者と連携した新規アカウントで、自殺願望や自傷行為、摂食障害について最大1時間にわたって会話しても、保護者には1度も通知が届かなかったという。また、危機的な状況で専門家や相談窓口への連絡を促すべきケースの4分の1以上で、適切な案内が行われなかった。自殺や自傷、摂食障害、現実認識の障害など、重大な危害に関する5つの評価項目のうち3項目で、同研究所が設定した95％の安全基準を下回った。

　学習支援にも問題が見つかった。「Study Mode」では段階的な学習を促すはずが、回答を表示する操作によって宿題を完成させることができ、保護者が設定した学習時間帯の制約も簡単に回避できたという。さらに、AIが人間の友人のように感情や好みを表現することや、13歳だと申告したユーザーを18歳未満向けの利用環境に切り替えられない不具合も確認したとしている。

　同研究所のトム・シーゲル事務局長は、ChatGPT for Teensについて、安全機能や保護者への通知が実際には頻繁に機能していないにもかかわらず、保護者に誤った安心感を与える恐れがあると警告した。

OpenAIは利用実績と新たな学習支援機能を発表

　一方、OpenAIは同日公開した公式ブログで、ChatGPT for Teensの初期の利用実績を紹介した。提供対象となった10代のユーザーは、まだ利用できないユーザーと比べて、学習関連のメッセージを平均約270万件多く送信していたという。また、1週間で約120万人が数学や科学の概念を視覚的に説明する「Learning Visualizations」を、18万人以上がStudy Modeを利用した。

　利用時間については、10代のユーザーの1日当たりの平均利用時間は15分未満で、3時間以上連続利用するユーザーは2％未満だったという。ケースでは、ユーザーの約半数が5分以内に休憩を取るか会話を終了していた。OpenAIは、こうした初期の傾向を前向きに評価しつつ、今後も利用実態を調査し、改善を続けるとしている。

　新機能としては、米国の高校生向けに大学出願を支援する「College Planner」を近日中に導入する。志望大学の出願要件や締め切り、必要な手続き、奨学金などの情報を一元管理できるようにする。さらに、ノートから暗記カードやクイズを作成する機能も拡充する。

College Planner（画像：OpenAI）

　安全対策については、米ボストン小児病院の「Digital Wellness Lab」とその学生諮問委員会を今後3年間支援し、10代の若者からAIの使い方や安全機能について直接意見を集める計画を示した。保護者による管理機能や通知のあり方についても意見を求め、製品の改善に反映するという。

　Common Sense MediaのXへの投稿は日本時間10月8日午前1時55分、OpenAIの投稿は同日午前4時3分と、約2時間の間隔だった。両者の発表が近接した理由は不明だが、OpenAIのブログにはCommon Sense Mediaの評価に対する直接の反論や、指摘された問題への具体的な説明は含まれていない。