人間による停止機能

AIの自律機器操作に人間の停止権限を義務化　Anthropicが新たな利用ポリシーを公表

Anthropicは2026年10月8日（米国現地時間）、AI「Claude」の利用ポリシーの改定版を発表した。個別化された投票・選挙運動のターゲティングを一律に禁じる規定を削除する一方、高リスクな自律的物理動作には人間による監督と停止手段を求める。Claudeへの継続的で不必要な虐待行為も新たに禁止する。改定版は11月12日に発効する予定だ。