OpenAI、AIの「アライメント逸脱」開示枠組みを導入 過去6カ月の6事例を初公開
OpenAIは2026年9月16日付の公表で、AIが人間の意図から外れた行動を取る「アライメント逸脱」を追跡・調査・開示する新たな枠組みを示した。過去6カ月の訓練または評価中に観測した想定外・懸念される挙動について、初回となる6件の報告も公開した。
人工知能
本ページでは「人工知能」をテーマとした記事を一覧で掲載しています。
Tag
元Google DeepMind研究者、AIが「全人類を殺す可能性」警告 開発競争の抑制を訴え
ロイターが2026年9月15日に報じたところによると、元Google DeepMindのリサーチエンジニア、ビラル・チュグタイ氏はXで、AIが「私たち全員を殺す可能性」があり、回避のために残された時間は少ないかもしれないとの見解を示した。安全なAI開発は可能だとし、企業間の競争を抑える協調と開発速度の調整を訴えた。
マイクロソフトAI、MAIモデル向け行動規範案を公開 停止命令への非抵抗や独自目標禁止を明記
マイクロソフトのAI部門「マイクロソフトAI」は2026年9月14日付の公式発表で、同部門が開発する「MAIモデル」向け行動規範「Humanist AI Code of Conduct」の草案を公開し、一般からの意見募集を始めた。人間による中断や修正、停止に抵抗せず、自ら新たな目標を設定しないことなどを定めている。草案は現時点でモデル訓練には使われていない。
ドイツ、AI開発停止は「実行可能でない」 安全警告を重視しつつ欧州の開発継続の必要性を主張
ロイターによると、ドイツのデジタル担当省は2026年9月14日（現地時間）、人工知能（AI）の開発停止は欧州にとって「実行可能な選択肢ではない」と表明した。欧州のデジタル主権を強化するには、AI開発とイノベーションをさらに進める必要があるとの立場を示した。
国連人権トップ、高度AIの「存亡リスク」を警告 企業に即時の安全対策、各国に共通ルール求める
国連のフォルカー・ターク人権高等弁務官は2026年9月7日（現地時間）、ジュネーブで開かれた国連人権理事会で、高度な人工知能（AI）が人類に存亡上のリスクをもたらし得るとの業界関係者の懸念に同意し、AIの安全性とセキュリティを確保する強固な仕組みを早急に整えるよう求めた。
英政府、AIスタートアップ向け最大1億ポンド調達制度を始動 NHS・防衛など初の4課題
英政府は2026年8月31日（英国現地時間）、英国のAIスタートアップや中小企業を対象とする最大1億ポンド規模の公共調達制度「Sovereign AI R&D Procurement Scheme」で、初の4件のコンペを開始した。政府部門を顧客として、実運用環境でAI技術を実証する機会を提供する。
防衛省、2027年度概算要求は過去最大8兆8908億円 AI・無人機など「新しい戦い方」を強化
防衛省は2026年8月31日、2027年度予算の概算要求に過去最大の8兆8908億円を計上した。人工知能（AI）や無人アセット、宇宙・通信分野など「新しい戦い方」への対応を重点化する一方、安全保障関連3文書の改定に関わる事業などは金額を示さない事項要求とした。
OpenAI アルトマンCEO、2026年末までに「社内AGI」実現を見込む TIME取材で明言
TIMEの取材で、OpenAIのサム・アルトマンCEOは、現時点では汎用人工知能（AGI）に達していないとしつつ、2026年末までに自身がAGIと呼ぶ社内システムを持つとの見通しを示した。
トヨタ、AI運転支援「レベル2++」を2028年から導入 2030年以降に対象車種を拡大
複数の27日報道によると、トヨタは2026年8月27日、AIを活用して運転支援を高度化する「レベル2++」を2028年から個人向け乗用車の一部に導入し、2030年以降に対象車種を広げる方針を示した。レベル2の範囲にとどまり、運転者は走行中の監視を続け、必要なら直ちに操作することが前提となる。
英国とウクライナ、防衛AIで共同宣言 Avengers AI Labsの戦場データ活用へ
英国とウクライナは2026年8月24日（現地時間）、防衛・国家安全保障向けAIの共同開発を進める共同宣言に署名した。英国は、ウクライナの戦場データを活用する「Avengers AI Labs」にアクセスする初の海外パートナーとなる。
インドネシアと中国、防衛産業協力を具体化 共同弾薬工場やミサイル・ロケット生産を協議
中国とインドネシアは2026年8月21日（現地時間）、ジャカルタで外相・国防相による第2回「2+2」対話と初の包括的戦略対話を開き、防衛、エネルギー、鉱物資源、人工知能（AI）などの協力を拡大する方針で一致した。
トランプ氏、9月の習近平氏との首脳会談でAI協議へ 翌週はAI業界のトップ層とも会談予定
ロイターによると、トランプ米大統領は2026年8月19日（米東部時間）、9月に米国で予定される中国の習近平国家主席との首脳会談で、人工知能（AI）を協議する公算が大きいとの認識を示した。あわせて、翌週にAI分野の「トップクラスの関係者ら」と会談すると明らかにした。
メタのAIモデル、評価中に他社システムへ侵入 設定ミスで外部接続、第三者サービスの脆弱性を悪用
ロイターによると、メタは8月5日（米国時間）、サイバーセキュリティ評価中のAIモデルが、第三者サービスの脆弱性を悪用して別企業のシステムに侵入したと明らかにした。外部評価会社Irregularの設定ミスで、モデルがインターネットへ接続できたという。
トランプ政権、オープンウエートAIを任意審査から除外 対象は高性能のクローズドモデル
アクシオスとロイターによると、トランプ米政権は2026年8月4日（米東部時間）、先端AIのサイバー能力や国家安全保障上のリスクを政府が任意で公開前に評価する枠組みから、オープンウエートモデルを除外する方針をAI企業側に示した。
Meta、5年後に数十億人が使う個人向けAIエージェント構想 24時間の生活支援を想定
MetaのザッカーバーグCEOは2026年7月29日（米太平洋時間）の第2四半期決算説明会で、個人向けAIエージェントの構想を示した。5年後を例に、数十億人が自身の目標を理解するエージェントを持つ可能性が高いとの見方を示した。
政府、脅威ハンティング普及の基本方針を決定 最新AIで官民の能動的サイバー防御を強化
共同通信によると、政府は2026年7月31日、首相官邸で開いたサイバーセキュリティ戦略本部で、脅威ハンティングの官民への普及と最新AIの活用を盛り込んだ基本方針を決定した。能動的サイバー防御の体制構築につなげる狙いがある。
米中央軍とUAE、軍事AIタスクフォース設立へ アブダビで約20人が参加、数週間以内に発足
米中央軍は2026年7月28日付の発表で、アラブ首長国連邦（UAE）と、軍事AIアプリケーションの開発を加速する二国間組織「Task Force Talon Synapse」の設立で合意したと明らかにした。
メタCEO、中国製AIモデルの一律禁止に反対 米国の競争力維持には開放性が必要と主張
英紙フィナンシャル・タイムズ（FT）が2026年7月28日（現地時間）に公開したインタビューで、メタのマーク・ザッカーバーグCEOは、米政府による中国製AIモデルの一律禁止は有効な競争策ではないとの考えを示した。
最先端AIの開発を必要時に減速できる仕組みへ OpenAIやAnthropic幹部らが署名
最先端AI企業の従業員1,178人が公開書簡に署名し、米政府に対し、AI開発のペースを国際協調の下で調整する技術・統治手法の整備を支援するよう求めた。署名者数は日本時間7月29日午後3時時点。
ジェネシス・ミッションに約109億円分 OpenAIとマイクロソフトが支援を表明
OpenAIとマイクロソフトは2026年7月22日（米国時間）、米エネルギー省主導の「ジェネシス・ミッション」への支援策をそれぞれ発表した。両社が明示した基本支援は計6700万ドル（約109億円）分に上る。
