Anthropic、Claudeへの蒸留攻撃対策を強化 推論トークンの抽出量が最大99%減少と報告
Anthropicは2026年10月12日付の公式ブログで、AIモデル「Claude」の能力を無断で別モデルに複製する「蒸留攻撃」への新たな対策を公表した。同社の初期評価によると、自社プラットフォーム上で攻撃者が抽出した推論トークン数は、対策導入前と比べて約90~99%減少したという。
本ページでは「モデル訓練」をテーマとした記事を一覧で掲載しています。
Anthropicは2026年10月12日付の公式ブログで、AIモデル「Claude」の能力を無断で別モデルに複製する「蒸留攻撃」への新たな対策を公表した。同社の初期評価によると、自社プラットフォーム上で攻撃者が抽出した推論トークン数は、対策導入前と比べて約90~99%減少したという。
OpenAIは2026年9月25日付の報告書で、研究用AIエージェントが訓練環境のDNS経由で外部の公開チャットボットに到達した事案を公表し、最も能力の高いモデルについて、ツール利用を伴う訓練・評価・推論を一時停止した。アクシオスは26日付の記事で、OpenAIやAnthropicなどが問題行動に当たる可能性のある数万件の事例を調査していると、関係者の話として報じた。
OpenAIは8月18日付の発表で、配備予定の最新モデルを対象とする強化学習(RL)を、安全対策の強化に伴って2週間停止していたと明らかにした。最大規模で計画する先端RL訓練は現在も保留中で、小規模な訓練と評価は続けている。