本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
AP通信は米国時間23日、米当局者の話として、AnthropicのAIモデル「Mythos」が、米情報機関との試験で高機密かつ厳重に保護された米政府のコンピューターシステムの脆弱性を数時間のうちに特定したと報じた。ただし当局者は、脆弱性の発見は、その短時間で実際の悪用や侵害までできたことを意味しないと説明している。
米情報機関と連携した実地評価
試験は、Anthropicと米情報機関が連携し、同社の取り組み「Project Glasswing」の枠組みで行われた。最先端AIが、実際の政府システムを対象にサイバー防御上の弱点を探し出せるかを確かめる評価だった。
マーク・ワーナー上院議員は米国時間6月11日の公聴会で、この試験に言及していた。国家安全保障局（NSA）とAnthropicの広報担当者は、この件についてコメントを控えた。
防御利用と公開統制のせめぎ合い
Anthropicは6月の公表文で、Project Glasswingを拡大し、米政府を含む関係者と連携していると説明している。初期参加者は「Mythos Preview」を大規模に使い、脆弱性発見、修正パッチの作成、事前検査、ペネトレーションテストなどに取り組んでいる。ペネトレーションテストは、攻撃者の視点でシステムを試し、弱点を洗い出す安全確認の手法だ。
一方で、Anthropicは最先端AIについて、壊滅的リスクの試験、外部評価者の関与、結果やリスク、インシデントの継続的な開示を政府が求めるべきだと提案している。重点リスクの一つには、攻撃的サイバー作戦が挙げられている。防御に役立つ能力は、条件次第で攻撃にも転用され得るためだ。
米政権は米国時間6月12日、Anthropicの最新AIモデル「Claude Fable 5」と「Claude Mythos 5」について、外国籍者による利用を停止するよう求める輸出管理指令を出した。Anthropicはこの指令に従うため、両モデルについて全顧客のアクセスを停止したと説明している。ロイターによると、米国時間23日には、この指令で影響を受けた米法務テック企業Legion LegalTechが、指令の取り消しなどを求めて米政府を提訴した。今後は、発見された脆弱性の実態や修正状況に加え、高性能AIを誰に、どの条件で使わせるかという国家安全保障上の審査の枠組みも争点となる。
