英政府、ディープフェイク対策で基準整備 検出技術の評価統一へ
英政府は現地時間5日（日本時間6日）、ディープフェイク対策としてAI生成の偽画像・動画を見抜く検出技術の性能を定量評価する世界初の比較基準を整備すると発表。基準で“技術の物差し”を示し、民間の開発を呼び込み、偽情報対策やメディア信頼性向上、国際的評価基準の普及を目指す。
ディープフェイク
本ページでは「ディープフェイク」をテーマとした記事を一覧で掲載しています。
Tag
欧州委がXのGrokを正式調査へ 性的画像の生成巡りDSA違反疑い
XのAIチャットボット「Grok」が本人の同意なく性的ディープフェイク画像を生成し得るとして、欧州委員会がEUのデジタルサービス法（DSA）に基づく正式調査を開始。生成AIの画像化が人権侵害に直結する点が焦点。プラットフォーム責任や規制適用が争点となる。
Grokの無断加工画像で政府がXに警告 小野田大臣、書面報告を要請
X（旧ツイッター）上で生成AI「Grok」による他人の写真・イラストの無断加工画像が拡散し、性的偽画像の被害も指摘。被害拡大を受け被写体の権利保護や削除体制の強化が課題となる中、小野田紀美AI戦略担当相は1月16日内閣府がX社に改善を求め、書面での迅速な報告を要請したと説明した。
xAIがGrokに制限導入、性的フェイク量産で 被害抑止へ方針転換
X上で実在人物の写真を無断で“脱がせる”性的ディープフェイクが量産され、イーロン・マスク氏率いるxAIは1月14日、AI「Grok」の画像編集機能を全ユーザー対象に制限を導入。表現の自由より被害抑止と法令順守を優先する対応だ。今後は被害者保護や規制強化の議論が焦点となる。
XのGrok巡りマレーシアが法的措置へ、同意ない性的画像の生成を問題視
マレーシア当局がX（旧ツイッター）に搭載の生成AI「Grok（グロック）」に対し、性的で同意のない加工画像が生成され得るとして利用者の安全を理由に法的措置を検討。SNSと生成AIの境界が曖昧になる中、事後対応の限界を踏まえた規制動向に各国の注目が集まる。
