GoogleとDeepMind研究者、AGI議論の「DeepMind Institute」始動 安全性から経済政策まで
GoogleとGoogle DeepMindの研究者らは2026年9月16日（現地時間）、AGI（汎用人工知能）の安全な開発や有益な利用、社会への影響を議論する「DeepMind Institute（DMI）」を立ち上げた。社内外の研究者や思想家が分野横断で論考を発表するプラットフォームと位置付けている。
AI安全
本ページでは「AI安全」をテーマとした記事を一覧で掲載しています。
Tag
マイクロソフトAI、MAIモデル向け行動規範案を公開 停止命令への非抵抗や独自目標禁止を明記
マイクロソフトのAI部門「マイクロソフトAI」は2026年9月14日付の公式発表で、同部門が開発する「MAIモデル」向け行動規範「Humanist AI Code of Conduct」の草案を公開し、一般からの意見募集を始めた。人間による中断や修正、停止に抵抗せず、自ら新たな目標を設定しないことなどを定めている。草案は現時点でモデル訓練には使われていない。
「ChatGPTが招いた悲劇」米で集団訴訟 AI設計の安全性に焦点
弁護士が訴状の束を掲げ、会見場にざわめきが広がった。2025年11月7日、米カリフォルニア州の裁判所に、対話型AI「ChatGPT」が自殺と精神的被害を招いたと主張する訴訟が相次ぎ提出された。原告は開発元OpenAIとサム・アルトマンCEOの責任を問う。利便を支えるAIの設計と安全の境目が、具体的な喪失を伴って問われている。
