本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
OpenAIの主任サイエンティスト、ヤクブ・パホツキ氏は2026年9月6日（現地時間）に公表した寄稿「An Alien Mind」で、AIの急速な進展には「極度の慎重さ」が必要だと訴えた。安全性への確信に応じてスケーリングを制約し、共通の安全基準が整うまで自主的な減速が広がることを期待するとした。
高度化するAIの監視に懸念
パホツキ氏は、機械知能が急速に進展し続けた場合の結果に「誰も備えていない」と懸念を示した。現時点では、アラインメント（AIを人間の意図や価値に沿わせること）と監視を、最大速度でのスケーリングを長く責任を持って続けられるほど十分に解決したAI研究機関はないとの見解だ。
背景には、OpenAIが安全確認に使う思考の連鎖（Chain of Thought、CoT）の監視について、AIが高度になるほど依存できる度合いが低下しているという評価がある。同氏は、アラインメントと監視を強化して人間を意思決定の輪に残すことと、必要に応じて将来の開発減速を協調して行うことを組み合わせるのが望ましいとした。
GPT-6 Astra公開後、安全基準の拡充を提言
OpenAIは9月3日（現地時間）、GPT-6 Astraを公開した。同社は自社で最も高性能で、アラインメントにも優れたモデルと位置付けているが、これはOpenAI自身の評価である。パホツキ氏の寄稿はその3日後に公表された。
同氏は、Preparedness Frameworkなどの安全枠組みを、第三者監査、政府機関、国際機関が執行できる広範な安全基準へ発展させる必要があると主張した。AI開発を巡る国際協調を各国政府の最優先課題にすべきとも述べた。
寄稿ではOpenAIについても、必要に応じて追加のスケーリングを一方的に差し控えるとしている。一方、業界全体の自主的減速は同氏の提言であり、具体的な停止条件や開発停止の決定は公表されていない。
その後、OpenAIは9月9日（現地時間）、米国で能力ベースの義務的なAI安全規制を求める方針を公表した。独立した安全評価や監査基準、サイバーセキュリティ、重大インシデントの報告要件などを議会に求めており、パホツキ氏が示した広範な介入と方向性が重なる。
