AIがAIを作るリスクに備え Anthropicが検証可能な開発停止の枠組みを提案
Anthropicは、AIの再帰的自己改良が制度や安全性研究の準備を上回る事態に備え、フロンティアAI開発を協調的かつ検証可能に減速・一時停止できる仕組みの整備を提案した。
自己改良
本ページでは「自己改良」をテーマとした記事を一覧で掲載しています。
Tag
ニュースはAIで深化する—。
ニュースはAIで深化する—。
本ページでは「自己改良」をテーマとした記事を一覧で掲載しています。
Anthropicは、AIの再帰的自己改良が制度や安全性研究の準備を上回る事態に備え、フロンティアAI開発を協調的かつ検証可能に減速・一時停止できる仕組みの整備を提案した。
