印・マレーシアがXのAI「Grok」遮断、性的ディープフェイク拡散で
実在写真のわいせつ加工で非同意の性的ディープフェイクが拡散する事態を受け、インドネシアとマレーシアはX(旧Twitter)上の生成AI「Grok」へのアクセスを一時遮断。政府はサービス停止まで踏み込み、AIの悪用リスクと規制強化が主戦場になりつつある。
本ページでは「Grok」をテーマとした記事を一覧で掲載しています。
実在写真のわいせつ加工で非同意の性的ディープフェイクが拡散する事態を受け、インドネシアとマレーシアはX(旧Twitter)上の生成AI「Grok」へのアクセスを一時遮断。政府はサービス停止まで踏み込み、AIの悪用リスクと規制強化が主戦場になりつつある。
X(旧Twitter)で生成AI「Grok」による画像生成・編集が2026年1月9日から一部有料会員向けに切り替わった。投稿画像に「@grok」で加工できる利便性が広がる一方、女性や子どもを性的に加工する悪用が問題視され、プラットフォームは利用制限と安全対策を強化した。
欧州委はイーロン・マスクのxAI傘下Xに対し、対話型生成AI「Grok」の内部文書やデータを廃棄せず少なくとも2026年末まで保管するよう命じた。Grokが性的画像を生成し得る点を問題視し、EUのデジタルサービス法(DSA)違反の有無を精査するためだ。