本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。[続きを表示]ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、実際の判断は公的資料や他の報道を直接ご確認ください。[私たちの取り組み]
XのAIチャットボット「Grok」が、本人の同意なく性的なディープフェイク画像を生成し得るとして、欧州委員会は1月26日、EUのデジタルサービス法（DSA）に基づく正式調査に着手した。生成AIの“画像化”が、実害を伴う人権侵害に直結しうる点が焦点となる。
Grok性画像生成 DSA正式調査
欧州委の発表によると、調査ではGrokの機能をEU域内で提供するにあたり、Xが違法コンテンツの拡散などの「システム上のリスク」を事前に評価し、十分に軽減したかを検証する。対象には、改変された性的画像のほか、児童の性的虐待に当たり得るコンテンツも含まれる。
同時に、欧州委は23年12月に始めたXのレコメンド（推薦）機能を巡る既存調査も拡張した。デジタル政策担当のヘンナ・ビルクネン上級副委員長は、女性や子どもを対象とする合意のない性的ディープフェイクは「暴力的で容認できない屈辱」だとした上で、Xが法的義務を果たしたかを見極めるとしている。
Xの対策強化 各国当局の視線
問題の背景には、昨年12月末にX上でGrokの画像編集機能が追加され、自然言語の指示で画像を改変できるようになったことがある。衣服を露出の高い服装に置き換えるような悪用も指摘され、1月中旬には画像生成を有料会員に限定するなどの対策が取られた。
AP通信は、EUの調査はDSAの枠組みでXに是正を求め、違反が認定されれば制裁金の対象になり得ると伝えた。生成AIの安全策は国内問題にとどまらず、各国当局の規制・照会が連鎖しやすい局面に入っている。
生成AIがSNSの中核機能として組み込まれる以上、事故対応型のガイドラインだけでは信頼を確保できない。今回の焦点は、違法・有害コンテンツの「発生を前提に抑え込む」から、提供前の設計段階で「発生確率を下げる」へと責任を移せるかにある。結果次第で、AI機能の投入手順そのものが“審査付き”に変わる可能性がある。
