本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。[続きを表示]ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、実際の判断は公的資料や他の報道を直接ご確認ください。[私たちの取り組み]
X（旧ツイッター）で生成AI「Grok」を使い、他人の写真やイラストを無断で加工した画像が拡散している。被害が「性的な偽画像」に及ぶケースも指摘され、政府は運営側に対応の強化を迫った。2026年1月16日、小野田紀美AI戦略担当相は、内閣府がX社に改善を求め、書面での迅速な報告も要請していると説明した。
Grokの画像編集 無断加工が連鎖する背景
問題の中心は、SNS上の投稿画像を素材に第三者が加工し、そのまま再投稿・拡散できてしまう点にある。FNNによると、小野田氏は昨年末以降、Grokの画像編集機能が簡便に使えるようになったことで、無断加工の事例が世界的に相次いでいるとの認識を示した。加工内容が性的表現に及ぶ場合、被写体の尊厳やプライバシーの侵害に直結し、拡散の速度が二次被害を増幅させる構図になりやすい。つまり、生成AIの利便性が「同意のない改変」と結び付いた瞬間に、被害は個人の手に負えない規模へ膨らむ。
政府側の問題意識は段階的に強まってきた。ITmedia AI+は1月6日、木原稔官房長官が関連報道を確認しつつ、関係省庁が連携して対応する必要性に言及したと伝えた。続いて同メディアは1月9日、林芳正総務相が権利侵害の可能性を示し、SNS事業者の対応を促す考えを述べたとしている。プラットフォーム側にも一定の対策方針はあるものの、生成AIの出力物は判別が難しく、削除・抑止・再発防止を同時に満たす運用設計が追い付いていないのが実情だ。
内閣府がXに改善要請 法制度と実効性が焦点
今回の特徴は、政府が「速やかな改善」だけでなく、運営側の見解と対応方針の提示を具体的に求めた点にある。FNNによると、内閣府はX社に対して書面による照会を行い、可能な限り速やかな報告を求めているという。日刊スポーツも、改善が見られない場合にはAI法に基づく指導や助言も視野に入ると報じた。個別投稿の削除要請にとどまらず、サービス設計そのものの是正を促す方向に踏み込んだ形である。
争点は、①無断加工の入口をどう狭めるか、②拡散後の被害をどう止めるか、③被害者救済までの時間をどう短縮するかに集約される。具体策としては、加工履歴の明示、再投稿の抑制、通報導線の強化、悪質事例へのアカウント制裁、当局への透明性ある報告などが組み合わされる可能性がある。加えて、小野田氏が注意喚起したように、権利侵害のリスクは利用者側にも及び、リテラシー不足が加害の温床になる。生成AIが「日常の編集機能」になった以上、プラットフォームの説明責任と政府の制度運用がどこまで実効性を持てるかが、今後の試金石となるだろう。
