本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
Hugging Faceは2026年7月16日（現地時間）、同じ週の前半に本番インフラの一部への侵入を検知し、一連の攻撃が自律型AIエージェントシステムによって実行されたとの調査結果を公表した。
悪意あるデータセットを起点に内部クラスタへ侵入
侵入は、悪意あるデータセットを通じてデータ処理基盤の2つのコード実行経路が悪用され、処理ワーカー上でコードが実行されたことから始まったという。一つはリモートコードを実行できるデータセットローダー、もう一つはデータセット設定を介したテンプレートインジェクションだった。
同社によると、攻撃には短命なサンドボックス群で数千件の操作を自動実行するエージェントの枠組みが使われた。攻撃者はノード単位のアクセス権限を得た後、クラウドやクラスタの認証情報を取得し、複数の内部クラスタへ横展開した。限られた内部データセットと、サービスで使う複数の認証情報への不正アクセスが確認された。
1万7000件超をAIで解析、商用APIの安全機構が制約
Hugging Faceは、セキュリティー監視データの異常をAIで関連付けて侵入を検知し、攻撃者の行動ログ1万7000件超をLLM駆動の分析エージェントで調べた。解析対象には、実際の攻撃コマンドや脆弱性を悪用するペイロード、C2と呼ばれる指令・制御関連の情報も含まれた。
商用API経由で最初に試したフロンティアモデルでは、プロバイダーの安全ガードレールがインシデント対応者と攻撃者を区別できず、解析が阻まれたという。このため同社は、Z.AIが6月17日にMITライセンスで公開したGLM-5.2を自社インフラ上で稼働させた。攻撃データや参照された認証情報を外部環境へ出さずにフォレンジック解析を進められたとしている。攻撃に使われたLLMは判明しておらず、GLM-5.2は解析側で使用されたモデルだ。
侵入経路を閉鎖、認証情報も更新
同社は初期侵入に使われたコード実行経路を閉鎖し、侵害されたノードを再構築した。認証情報とトークンの無効化・更新に加え、内部クラスタが処理を受け入れる際の制御も強化した。公開済みのモデル、データセット、Spacesに改ざんの証拠はなく、コンテナイメージや公開パッケージから成るソフトウェア供給網にも問題は確認されなかった。
Hugging Faceは外部のフォレンジック専門家と調査を続け、法執行機関へ通報した。パートナーや顧客のデータに影響が及んだかは評価中で、利用者には予防措置としてアクセストークンの更新と最近のアカウント活動の確認を推奨している。
