XのGrok巡りマレーシアが法的措置へ、同意ない性的画像の生成を問題視
マレーシア当局が、X（旧ツイッター）に組み込まれた生成AI「Grok（グロック）」を巡り、利用者の安全を損なう恐れがあるとして法的措置に踏み切る構えを示した。性的で同意のない加工画像などが作れてしまう点が焦点で、SNSと生成AIの境界が曖昧になるほど、各国が「事後対応では間に合わない」と判断し始めた形だ。
生成AI
本ページでは「生成AI」をテーマとした記事を一覧で掲載しています。
Tag
Xの国内禁止も排除せず、英技術相が警告 AI性画像の悪用巡り
X（旧Twitter）で生成AIを使った画像編集が普及する一方、他人の写真を本人の同意なく性的な画像に加工する投稿が相次ぎ、英国政府が強い危機感を示している。リズ・ケンドール科学・イノベーション・技術相は1月9日、改善が見られなければ英国でXのサービスを禁止し得るとの立場に踏み込んだ。
印・マレーシアがXのAI「Grok」遮断、性的ディープフェイク拡散で
非同意の性的ディープフェイク（実在写真のわいせつ加工）が拡散する中、インドネシアとマレーシアがX（旧Twitter）上の生成AI「Grok」へのアクセスを一時遮断した。政府がサービス提供そのものを止める踏み込んだ措置で、AIの“悪用リスク”が規制の主戦場になりつつある。
性的加工問題受け措置 Xの生成AI画像機能が一部有料化
X（旧Twitter）で、生成AI「Grok（グロック）」を使った画像の生成・編集が、2026年1月9日に一部で有料会員向けへ切り替わった。X上の投稿画像に「@grok」と指示して加工させる使い方が広がる一方、女性や子どもを性的に加工する悪用が問題視されており、利用のハードルを上げた格好だ。
Grokの性的画像生成問題で欧州委がXに対応要求、内部データ保管命令
欧州連合（EU）の欧州委員会は1月8日、米実業家イーロン・マスク氏のAI企業xAI傘下のX（旧ツイッター）に対し、対話型生成AI「Grok（グロック）」に関する内部文書やデータを、少なくとも2026年末まで廃棄せず保管するよう命じた。欧州委は、Grokが性的な画像を生成しうる点を問題視し、EUのデジタルサービス法（DSA）違反の有無を見極めるためだとしている。
生成AI悪用も処分対象 X社が違法投稿で行政連携強化
X社は2026年1月6日、SNS「X」で児童性的虐待素材（CSAM）など違法コンテンツを含む投稿を見つけた場合、投稿削除やアカウントの永久凍結に加え、行政・法執行機関と連携して対処すると表明した。生成AI「Grok（グロック）」で違法コンテンツを作らせたり作成を促したりする行為も、アップロードと同等に扱うという。
X搭載AI「Grok」画像生成機能、EU欧州委が違法認定
欧州連合（EU）の欧州委員会は1月5日、交流サイトXに組み込まれた生成AI「Grok（グロック）」で女性や子どもの性的な画像を作成・加工できる機能について、違法だとの見解を示した。ロイターなどが、裸に近い画像がオンライン上で拡散していると報じており、EUは「娯楽の範囲」との位置づけを明確に否定した。
政府が性的ディープフェイク被害対策へ、関係省庁連携で実態整理
生成AIを悪用して実在人物の偽の性的画像を作る「性的ディープフェイク（実在人物の偽の性的画像）」を巡り、木原官房長官は2026年1月6日、被害やサービスの実態、対策技術、国際動向を整理し、関係省庁が連携して対応する考えを示した。政府は大規模プラットフォームに、違法・有害情報の削除申し出方法や判断基準の公表も求めている。
生成AI新興AI21巡り交渉進展、NVIDIAが買収検討
半導体大手NVIDIAが、イスラエルの生成AI新興企業AI21 Labsの買収に向け、最大30億ドル規模で交渉しているとイスラエル紙Calcalist（カルカリスト）が12月30日に報じた。Reutersも同日、協議が進んだ段階にあると伝えている。実現すれば、AI開発の人材と拠点をどこまで抱え込めるかが焦点になる。
最高裁が生成AI研究会、民事裁判の活用可否検討
民事裁判の現場で生成AI（人工知能）をどう扱うべきか。最高裁が2026年1月に研究会を設け、争点の判断は裁判官が担う前提を崩さずに、証拠の整理など「周辺業務」で生成AIを補助的に使えるかを検討する。2026年度以降、効果だけでなく弊害も確かめ、実務に入れるかどうかを決める方針だ。
「止まらない前提」が焦点に DeepSeekで相次ぐ障害
2025年12月11日、生成AIサービスのDeepSeekで、ウェブ版とアプリ、法人向けAPIが約4時間にわたり不安定となり、一部では利用履歴が消える影響も出た。年初に市場の注目を集めた一方で、2025年は1月下旬や2月、5月、8月にも同種の障害が起きており、使う側は「性能」だけでなく「止まらない前提」をどこまで置けるのかを迫られている。
報道の収益構造に影 公取委、AI検索サービスを調査へ
生成AIを使う検索は、質問に対して「答え」を先に出す。便利さの裏側で、報道機関が積み上げた記事が許諾なしに要約・再利用され、読者の流入や収益が細る懸念が強まっている。ライブドアニュースは2025年12月23日、公正取引委員会がAI検索サービスの実態調査に近く乗り出す見通しだと伝えた。独禁法上の問題に当たり得るかを含め、線引きを探る。
楽天が生成AI「Rakuten AI 3.0」発表へ、7000億規模で低コスト運用
楽天グループが、生成AIの中核となる大規模言語モデル（LLM）「Rakuten AI 3.0」を開発し、近く発表する予定だ。学習規模の目安となるパラメータ数は約7000億で、楽天市場などのサービスに順次組み込み、日々の検索や案内の形を変える構えである。運用コストを同規模モデルより9割下げたという点が、普及の現実味を左右しそうだ。
キオクシアが生成AIで新材料探索 NAND開発の効率化へ新手法
キオクシアホールディングスは、NAND型フラッシュメモリー製造に用いる新材料の探索に生成AIを導入した。積層数の増加で金属やガスの候補が膨大に広がる中、AIにより有望な組み合わせを素早く絞り込む狙いだ。半導体開発の現場で、材料選びをどこまでAIに任せられるのかが新たな焦点になっている。
EU、メタのWhatsApp内AIを独禁調査 自社優遇の有無を精査
欧州連合（EU）は12月4日、米メタがメッセージアプリ「WhatsApp」に組み込んだAI機能と、その利用ルールを巡り、新たな独占禁止法調査を開始した。企業やAIスタートアップが日常的に使う通信インフラ上で、どこまで自社AIを優遇できるのか。急拡大する生成AI市場で、公正な競争と利便性を両立できるのかが焦点になっている。
NVIDIAが次世代AIサーバー性能公開 人気モデル処理で最大10倍に
米半導体大手NVIDIAは米国時間12月3日、新しいAIサーバーに関する性能データを公表し、中国で人気の2つの生成AIモデルを含む次世代モデルの処理が従来世代の自社サーバーに比べ最大10倍速くなると説明した。学習用GPU市場で圧倒的な存在感を持つ同社だが、いま競争が激しくなっているのは「学習後」にユーザー向けサービスとしてモデルを動かす段階だ。この発表は、その最前線でNVIDIAがどう優位を保とう…
NVIDIAが1000億ドル投資を否定 OpenAI提携は“最終合意前”と説明
半導体大手NVIDIAのコレット・クレス最高財務責任者（CFO）が12月2日、生成AI「ChatGPT」を手がけるOpenAIへの最大1,000億ドル規模の投資について「まだ最終合意ではない」と説明した。9月に公表された両社の提携計画は、少なくとも10ギガワットのNVIDIAシステムをOpenAI向けに展開する前例のない構想だが、その中身はなお変動の余地を残す。AIサービスに依存する企業や利用者に…
競争激化でOpenAIが緊急態勢 Google「Gemini 3」追撃に社内方針転換
米OpenAIのサム・アルトマンCEOが、社内に「コード・レッド」を発令した。社内メモでチャットボット「ChatGPT」の改善を最優先課題とし、広告導入や新サービスの一部を後回しにする方針を示したと複数の米メディアが報じている。背景には、Googleの最新AIモデル「Gemini 3」など競合の追い上げがある。急加速する生成AI競争のコストを、誰がどこまで負担するのかが改めて問われている。
デジタル庁、国産LLMを公募 行政AI基盤「源内」に国内技術を組み込む一歩
デジタル庁は12月2日、行政向けAI基盤で使う国内開発の大規模言語モデル（LLM）の募集を始めた。 応募は2026年1月30日まで受け付け、人口減少で人手が細る行政の仕事をAIで補う狙いだ。 すでに庁内では生成AI環境「源内」が動き始めており、今回はそこに国産LLMを組み込む一歩となる。 国産モデルの採用は、現場と産業に何をもたらすのかを見ていく。
「AIにオールイン」孫氏が語った全株売却の真意 資金はオープンAI支援に
12月1日、ソフトバンクグループの孫正義会長兼社長が、米半導体大手エヌビディア株をすべて手放した理由を初めて語った。売却額は約58億ドルに達し、得た資金を生成AI「チャットGPT」を開発する米オープンAIへの投資などに充てるためだという。AIに「オールイン」する決断は、同社の財務と投資家、ひいては日本の個人マネーにもどんな重さをもたらすのか。
