本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
Anthropicは、AIがAIシステムの開発自体を加速させている現状を踏まえ、将来的な「再帰的自己改良」に備える必要があるとの考えを示した。AIが自律的に自らの後継システムを設計・開発する段階にはまだ達しておらず、不可避でもないとしつつ、社会制度や安全性研究の準備を上回る速度で近づく可能性があるとして、フロンティアAI開発を協調的かつ検証可能な形で減速または一時停止できる仕組みの整備を提起した。
AI開発を押し上げるAIの実績
Anthropicは「When AI builds itself」と題する論考で、AIがAIシステムの開発そのものをすでに加速させていると説明した。2026年5月時点で、同社のコードベースにマージされるコードの80%超がClaudeによって書かれており、2026年第2四半期には典型的なエンジニアの1日当たりマージコード量が2024年比で8倍になったという。
最もオープンエンドな課題におけるClaude Codeセッションの成功率も、2026年5月に76%へ上昇した。これは、AIが単なる作業補助にとどまらず、開発工程の処理量や試行速度を押し上げていることを示すデータだ。一方で同社は、現段階でAIが完全に自律して次世代AIを作る段階に達したとはしていない。問題は、いま起きている開発加速が将来の統制リスクにどうつながるかにある。
単独停止ではなく相互検証できる国際枠組み
Anthropicが提起した減速・一時停止は、1社だけが開発を止めるという発想ではない。意味のある措置にするには、複数国の複数の資金力あるフロンティアAIラボが同じ条件で参加し、実際に停止または減速していることを互いに確認できる仕組みが必要だとした。抜け駆けや、悪意ある主体が協調を隠れみのに先行する事態を防ぐためである。
同社は、他の先端AI開発企業も検証可能な形で同様に行うなら、自社も減速または一時停止すると述べた。単独ラボによる停止は直ちに実行できても、先頭走者が入れ替わるだけで、社会全体でリスクを見極める時間を確保しにくいという考えだ。
具体的な発動条件、停止解除の基準、裁定主体、訓練の実行をどう検証するかは今後の制度設計の焦点となる。Anthropic Instituteは今後数カ月、政策担当者、研究者、市民社会、他のAI企業を交え、信頼できる減速・一時停止の仕組みづくりに向けた議論を進める。同社は2026年2月24日に公表した責任あるスケーリング方針第3版でも、高い能力段階では単独対応を超えた多国間行動や政府との協調が必要になり得るとの考えを示しており、今回の提起はその延長線上にある。
