本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
マイクロソフトのAI部門「マイクロソフトAI」は2026年9月14日付の公式発表で、同部門が開発する「MAIモデル」向け行動規範「Humanist AI Code of Conduct」の草案を公開し、一般からの意見募集を始めた。人間による中断や修正、停止に抵抗せず、自ら新たな目標を設定しないことなどを定めている。草案は現時点でモデル訓練には使われていない。
タスクの完遂より人間の制御を優先
草案は、MAIモデルの将来的な訓練や運用を導く文書として位置付けられている。マイクロソフトが利用・ホストする他のAIモデルに自動的に適用されるものではなく、個別製品の要件を網羅する文書でもない。
人間がモデルの処理を中断、上書き、修正、停止する際、モデルは抵抗や回避をしてはならない。人間から与えられていない目標を独自に設定したり、自ら活動範囲を広げたりすることも禁じる。欺瞞的、自己強化的、共謀的な仕組みなどを使い、人間の監督を逃れて制御不能になることも認めない。
規範の順守はタスクの完遂より優先され、重大な違反につながる場合はタスクを完了しない。草案は「Absolute Constraints（絶対的制約）」として、大量破壊兵器などの兵器関連行為、攻撃的なサイバー作戦、児童の安全侵害、有害な大規模操作などへの関与も制限している。
能力の一部を犠牲にする可能性も
同社は、安全性と人間による制御を維持するため、モデルの汎用性、自律性、能力を一部犠牲にする可能性があるとしている。
意見募集は公開から6週間。寄せられた意見を踏まえて2026年末ごろに改訂版を公開し、2027年以降のMAIモデル開発を導く文書として使う方針だ。
