xAIがGrokに制限導入、性的フェイク量産で　被害抑止へ方針転換

※記事を視覚化したイメージであり、実際の事象とは異なります。

2026.01.15

本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。[続きを表示]ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、実際の判断は公的資料や他の報道を直接ご確認ください。[私たちの取り組み]

実在人物の写真を無断で“脱がせる”ような性的ディープフェイクがX上で量産され、イーロン・マスク氏が率いるxAIは1月14日、AI「Grok」の画像編集機能に全ユーザー対象の制限を導入した。表現の自由や利便性よりも、被害拡大の抑止と法令順守を優先せざるを得ない局面に入っている。

全ユーザーに編集制限有料化と地域遮断を組み合わせ

AP通信の報道では、xAIはGrokを通じて「実在の人物」をビキニや下着など露出度の高い服装に加工する画像編集を、技術的措置で抑止すると説明した。対象は無料・有料を問わず全ユーザーとし、違法となる法域では同種の生成を地域単位で遮断（ジオブロック）する方針も示した。

同報道などによると、さらにX上のGrokアカウント経由での画像生成・編集自体を有料加入者に限定し、悪用時に追跡・責任追及しやすくする狙いも打ち出した。機能を閉じるだけでなく、利用者の特定可能性（アカウンタビリティ）を高める設計に寄せた点が、今回の対策の骨格となる。

当局の調査が加速対策の抜け穴が焦点

背景には、Grokの画像機能が“本人同意のない性的加工”に転用され、女性や子どもを含む被害の温床になっているとの批判が広がったことがある。AP通信は、米カリフォルニア州当局が非同意の性的コンテンツ増加を問題視して調査に動いたほか、マレーシアやインドネシアでの規制措置、英当局やEUなどでの調査・警告が相次いでいると伝えた。

一方で実効性はなお検証段階だ。The Vergeは、X側が対策を説明した後も、テストでは回避が可能な場面が残ったと報じ、TechCrunchもX外のGrokアプリでは同様の制限が及びにくい可能性を示した。生成AIの安全対策は、単発のフィルター追加ではなく、機能提供範囲の統制、ログ保全、違反時の執行まで含めた“運用の設計”が問われる局面に移りつつある。