XのGrok巡りマレーシアが法的措置へ、同意ない性的画像の生成を問題視

※記事を視覚化したイメージであり、実際の事象とは異なります。

2026.01.13

本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。[続きを表示]ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、実際の判断は公的資料や他の報道を直接ご確認ください。[私たちの取り組み]

マレーシア当局が、X（旧ツイッター）に組み込まれた生成AI「Grok（グロック）」を巡り、利用者の安全を損なう恐れがあるとして法的措置に踏み切る構えを示した。性的で同意のない加工画像などが作れてしまう点が焦点で、SNSと生成AIの境界が曖昧になるほど、各国が「事後対応では間に合わない」と判断し始めた形だ。

法的措置の焦点安全配慮義務と国内法

ロイターは、通信マルチメディア委員会（MCMC）が現地時間13日（日本時間13日）、Grokに関連する利用者保護上の懸念を理由に、Xに対して法的措置を講じると発表したと報じた。Grokはイーロン・マスク氏のAI企業xAIが開発し、X上で提供されている。

争点は、生成AIが性的・猥褻な画像や児童に関わる画像を作り得る設計上のリスクを、企業側がどこまで技術的に抑え込めているかである。マレーメールは、当局が「通報頼み」の対策を不十分とみなし、国内法（通信・マルチメディア法など）に照らして是正を迫ってきた経緯を伝えた。つまり、コンテンツの削除速度だけでなく、危険な生成を未然に防ぐ仕組みの有無が問われている。

広がる規制の連鎖 XとxAIに求められる対応

各国の動きも連動している。英ガーディアンは、マレーシアとインドネシアが週末にかけてGrokへのアクセスを一時的に遮断したと伝え、生成画像機能が世界的な反発を招いている状況を報じた。遮断は「特定の投稿」ではなく「機能」そのものを問題視する点で、規制の踏み込みが深い。

同様に、英国ではメディア規制当局がXへの調査を始め、フランスでも当局が検察や規制当局に申し立てを行っているとロイターが報じた。今後は、アプリやSNSの“場”の責任と、モデル提供者（xAI）の責任をどう分担させるかが焦点となり、各国で安全対策の透明性（フィルタリング、年齢確認、監査、再発防止）を求める圧力が強まる可能性が高い。

法的措置の焦点 安全配慮義務と国内法

広がる規制の連鎖 XとxAIに求められる対応

参考・出典

法的措置の焦点安全配慮義務と国内法