印・マレーシアがXのAI「Grok」遮断、性的ディープフェイク拡散で

※記事を視覚化したイメージであり、実際の事象とは異なります。

2026.01.12

本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。[続きを表示]ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、実際の判断は公的資料や他の報道を直接ご確認ください。[私たちの取り組み]

非同意の性的ディープフェイク（実在写真のわいせつ加工）が拡散する中、インドネシアとマレーシアがX（旧Twitter）上の生成AI「Grok」へのアクセスを一時遮断した。政府がサービス提供そのものを止める踏み込んだ措置で、AIの“悪用リスク”が規制の主戦場になりつつある。

遮断の時系列:まずインドネシア、続いてマレーシア

インドネシア政府は2026年1月10日、通信・デジタル省（Komdigi）がGrokへのアクセスを暫定的に遮断したと発表した。国民の写真が本人の同意なく性的に加工される事例が問題化し、女性や子どもを含む市民の尊厳と安全を守る必要があるとの判断だという。つまり「投稿の削除」では追いつかず、入口で止める段階に移った形だ。

マレーシアでも2026年1月11日、通信・マルチメディア委員会（MCMC）が一時的な制限に踏み切った。MCMCは、事前の警告にもかかわらず、xAI側の対応が通報頼みで実効性に欠けるとみたとされ、国内法（通信・マルチメディア法）に抵触し得る不適切・加工画像の流通を理由に挙げた。要するに「拡散後の対処」から「設計段階の安全策」へ、責任の置き所が変わっている。

xAIの安全策と限界:解除条件は「実装された予防策」

Grokを開発するxAIは、画像生成・編集機能の制限など安全策の強化を進めているとされる一方、当局側は悪用の再発防止に足りないと判断した。AP通信などは、性的に加工された画像が女性や未成年者を標的にし得る点を問題視する当局の姿勢を伝えており、AIの“生成能力”がそのままリスクになる局面が鮮明になった。結局、機能提供の速度と安全対策の成熟度のギャップが、遮断という強硬手段を呼び込んでいる。

両国とも恒久禁止ではなく「一時遮断」としており、解除の条件は、xAI/X側が有効なモデレーションと予防的なガードレールを実装できるかにかかる。各国でディープフェイク規制の議論が強まる中、プラットフォームに“違法・有害コンテンツを作らせない設計”を求める流れが強まり、日本でも生成AIの悪用対策をめぐり、事業者の安全義務と法執行の実効性が改めて焦点になりそうだ。

遮断の時系列:まずインドネシア、続いてマレーシア

xAIの安全策と限界:解除条件は「実装された予防策」

参考・出典