本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
ジェフリー・ヒントン氏やヨシュア・ベンジオ氏ら世界の科学者約400人が、サイバー能力を持つ高度なAIの安全管理に関する公開書簡を公表した。2026年10月13日付のロイター報道によると、署名者は34カ国に及ぶ。書簡は、封じ込め基準の策定や事故報告を担う国際機関の設置を求めている。
隔離と外部アクセスの基準策定、事故情報の公開を要求
公開書簡は、サイバー能力を持つAIモデルを開発・配備・試験する組織に対し、安全性の高い封じ込め措置を直ちに導入するよう求めた。当初はインターネットから物理的に切り離す「エアギャップ」を原則とし、外部ネットワークへの接続に慎重な対応を求めている。
また、政府やAI・サイバーセキュリティーの専門家と協議し、国際機関を設立することを提案した。同機関には、AIのアラインメント（人間の意図や目標に沿った動作の確保）と封じ込め手法について、望ましい実務を標準化する役割を想定している。インターネット接続など、隔離環境の外へのアクセスを許す場合の安全対策も対象となる。
事故情報の共有も重要な要求だ。書簡は、封じ込めの失敗を記録・追跡し、それに伴うセキュリティー事故を国際機関に報告したうえで、最終的に公開する仕組みを提案した。失敗事例を安全性研究に生かし、説明責任を果たすことを目的としている。
ロイターによると、署名者らは業界の自主的な取り組みだけでは不十分だと主張。政府による正式な監督体制の整備を待たず、開発・試験を行う組織が確実性の高い封じ込め措置を導入するよう求めた。独立した監督の必要性も訴えている。
10月14日に確認した公開書簡の公式ページには、406人の署名者が掲載されている。
一方、AIのリスク評価には異なる見解もある。ロイターによると、書簡に署名していないヤン・ルカン氏は、最近の事故について、AIによる人類存続への脅威よりも、主に工学上の不備を示すものだとの見方を示している。
