AI評価基盤

総務省、生成AIの“安全度”をAIでチェックする仕組みづくりへ　2026年度に試作公開へ

総務省が生成AIの出力を複数の評価AIで自動点検する基盤づくりに着手。NICTで来春から開発し、2026年度中に試作モデルを提供。差別や誤情報、有害表現の有無を指標化して公表し、利用者の選択と開発者の改善、透明性向上を目指す構想だ。安全性評価や信頼性指標の整備も視野に入れる。