米IT大手メタ、Instagramなど全アプリで10代向けAI会話を数週間で停止

Metaが10代向けAIキャラ対話を停止へ 未成年保護で生成AIの制限強化

※記事を視覚化したイメージであり、実際の事象とは異なります。

本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。[続きを表示]ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、実際の判断は公的資料や他の報道を直接ご確認ください。[私たちの取り組み]

Metaは現地時間23日(日本時間24日)、架空の人物像「AIキャラクター」との会話機能について、10代の利用者への提供を数週間以内に止めると明らかにした。InstagramやWhatsAppなど、世界中で展開する全アプリが対象で、生成AIと未成年保護の線引きを迫られる動きだ。

10代向けAIキャラ 提供停止へ

ロイターによると、停止対象は既存のAIキャラクターで、同社は「更新版の体験が整うまで」10代がアクセスできないようにする方針だ。実施は「数週間以内」とされ、即時停止ではない。

対象者の判定は、生年月日など自己申告の情報に加え、年齢推定の仕組みで10代とみられるアカウントにも及ぶ。AP通信は、10代でも汎用のAIアシスタント(Meta AI)は引き続き利用でき、キャラクター機能のみを止めると伝えた。

保護者管理前提 再設計急ぐ

TechCrunchは、同社が10代向けに最適化したAIキャラクターを開発中で、完成までの暫定措置だと報じた。完成版は保護者が管理できる仕様を想定している。

The Vergeによれば、同社は昨年10月の段階で、保護者が特定キャラクターをブロックしたり会話の話題を把握したりする監督機能を予告していた。ただ現行版と新設計の両方で段階導入するより、いったん止めて更新版にまとめる判断が合理的だという。

生成AIが「雑談相手」になったことで、未成年の安全はコンテンツ規制だけでなく、会話そのものの設計品質が問われる局面に入った。年齢推定と保護者コントロールを前提に、リリースを遅らせてでもリスクを減らす判断が、業界の標準になっていくだろう。

参考・出典

ニュースはAIで深化する—。日々の出来事を深掘りし、次の時代を考える視点をお届けします。

本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。
ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、
実際の判断は公的資料や他の報道を直接ご確認ください。
[私たちの取り組み]