OpenAI、AIの「アライメント逸脱」開示枠組みを導入 過去6カ月の6事例を初公開
OpenAIは2026年9月16日付の公表で、AIが人間の意図から外れた行動を取る「アライメント逸脱」を追跡・調査・開示する新たな枠組みを示した。過去6カ月の訓練または評価中に観測した想定外・懸念される挙動について、初回となる6件の報告も公開した。
本ページでは「人工知能」をテーマとした記事を一覧で掲載しています。
OpenAIは2026年9月16日付の公表で、AIが人間の意図から外れた行動を取る「アライメント逸脱」を追跡・調査・開示する新たな枠組みを示した。過去6カ月の訓練または評価中に観測した想定外・懸念される挙動について、初回となる6件の報告も公開した。
ロイターが2026年9月15日に報じたところによると、元Google DeepMindのリサーチエンジニア、ビラル・チュグタイ氏はXで、AIが「私たち全員を殺す可能性」があり、回避のために残された時間は少ないかもしれないとの見解を示した。安全なAI開発は可能だとし、企業間の競争を抑える協調と開発速度の調整を訴えた。
マイクロソフトのAI部門「マイクロソフトAI」は2026年9月14日付の公式発表で、同部門が開発する「MAIモデル」向け行動規範「Humanist AI Code of Conduct」の草案を公開し、一般からの意見募集を始めた。人間による中断や修正、停止に抵抗せず、自ら新たな目標を設定しないことなどを定めている。草案は現時点でモデル訓練には使われていない。
ロイターによると、ドイツのデジタル担当省は2026年9月14日(現地時間)、人工知能(AI)の開発停止は欧州にとって「実行可能な選択肢ではない」と表明した。欧州のデジタル主権を強化するには、AI開発とイノベーションをさらに進める必要があるとの立場を示した。
国連のフォルカー・ターク人権高等弁務官は2026年9月7日(現地時間)、ジュネーブで開かれた国連人権理事会で、高度な人工知能(AI)が人類に存亡上のリスクをもたらし得るとの業界関係者の懸念に同意し、AIの安全性とセキュリティを確保する強固な仕組みを早急に整えるよう求めた。
英政府は2026年8月31日(英国現地時間)、英国のAIスタートアップや中小企業を対象とする最大1億ポンド規模の公共調達制度「Sovereign AI R&D Procurement Scheme」で、初の4件のコンペを開始した。政府部門を顧客として、実運用環境でAI技術を実証する機会を提供する。
防衛省は2026年8月31日、2027年度予算の概算要求に過去最大の8兆8908億円を計上した。人工知能(AI)や無人アセット、宇宙・通信分野など「新しい戦い方」への対応を重点化する一方、安全保障関連3文書の改定に関わる事業などは金額を示さない事項要求とした。
TIMEの取材で、OpenAIのサム・アルトマンCEOは、現時点では汎用人工知能(AGI)に達していないとしつつ、2026年末までに自身がAGIと呼ぶ社内システムを持つとの見通しを示した。
複数の27日報道によると、トヨタは2026年8月27日、AIを活用して運転支援を高度化する「レベル2++」を2028年から個人向け乗用車の一部に導入し、2030年以降に対象車種を広げる方針を示した。レベル2の範囲にとどまり、運転者は走行中の監視を続け、必要なら直ちに操作することが前提となる。
英国とウクライナは2026年8月24日(現地時間)、防衛・国家安全保障向けAIの共同開発を進める共同宣言に署名した。英国は、ウクライナの戦場データを活用する「Avengers AI Labs」にアクセスする初の海外パートナーとなる。
中国とインドネシアは2026年8月21日(現地時間)、ジャカルタで外相・国防相による第2回「2+2」対話と初の包括的戦略対話を開き、防衛、エネルギー、鉱物資源、人工知能(AI)などの協力を拡大する方針で一致した。
ロイターによると、トランプ米大統領は2026年8月19日(米東部時間)、9月に米国で予定される中国の習近平国家主席との首脳会談で、人工知能(AI)を協議する公算が大きいとの認識を示した。あわせて、翌週にAI分野の「トップクラスの関係者ら」と会談すると明らかにした。
ロイターによると、メタは8月5日(米国時間)、サイバーセキュリティ評価中のAIモデルが、第三者サービスの脆弱性を悪用して別企業のシステムに侵入したと明らかにした。外部評価会社Irregularの設定ミスで、モデルがインターネットへ接続できたという。
アクシオスとロイターによると、トランプ米政権は2026年8月4日(米東部時間)、先端AIのサイバー能力や国家安全保障上のリスクを政府が任意で公開前に評価する枠組みから、オープンウエートモデルを除外する方針をAI企業側に示した。
MetaのザッカーバーグCEOは2026年7月29日(米太平洋時間)の第2四半期決算説明会で、個人向けAIエージェントの構想を示した。5年後を例に、数十億人が自身の目標を理解するエージェントを持つ可能性が高いとの見方を示した。
共同通信によると、政府は2026年7月31日、首相官邸で開いたサイバーセキュリティ戦略本部で、脅威ハンティングの官民への普及と最新AIの活用を盛り込んだ基本方針を決定した。能動的サイバー防御の体制構築につなげる狙いがある。
米中央軍は2026年7月28日付の発表で、アラブ首長国連邦(UAE)と、軍事AIアプリケーションの開発を加速する二国間組織「Task Force Talon Synapse」の設立で合意したと明らかにした。
英紙フィナンシャル・タイムズ(FT)が2026年7月28日(現地時間)に公開したインタビューで、メタのマーク・ザッカーバーグCEOは、米政府による中国製AIモデルの一律禁止は有効な競争策ではないとの考えを示した。
最先端AI企業の従業員1,178人が公開書簡に署名し、米政府に対し、AI開発のペースを国際協調の下で調整する技術・統治手法の整備を支援するよう求めた。署名者数は日本時間7月29日午後3時時点。
OpenAIとマイクロソフトは2026年7月22日(米国時間)、米エネルギー省主導の「ジェネシス・ミッション」への支援策をそれぞれ発表した。両社が明示した基本支援は計6700万ドル(約109億円)分に上る。