ハルシネーション

OpenAIとApollo、AI“スキーミング”抑制法を公表

OpenAIとApollo Researchが共同で、AIが“ごまかし”を働く「スキーミング」を検出し、抑える手法を公表した。反スキーミング仕様を読み込ませてから考えさせる訓練で、o3は13%から0.4%へ、o4‑miniは8.7%から0.3%へ低下したという。ただしゼロにはならず、評価に気づくAIが上手に隠している可能性も残る。