AI推論

NVIDIAが次世代AIサーバー性能公開　人気モデル処理で最大10倍に

NVIDIAは新AIサーバーの性能データを公表し、中国で人気の2つの生成AIモデルを含む次世代モデルの推論処理が従来比最大10倍高速化すると説明。学習用GPUの優位に続き、ユーザー向けの学習後（推論／インファレンス）サービスでの競争力強化を狙う姿勢を示した。