アリババ、Qwen4-Maxの安全対策を公表 コード生成の検査やCBRNリスク対応を説明

アリババ、Qwen4-Maxの安全対策を公表 コード生成の検査やCBRNリスク対応を説明

※記事を視覚化したイメージであり、実際の事象とは異なります。

本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]

アリババは2026年11月16日(現地時間)の公式発表で、AIモデル「Qwen4-Max」の学習時に、脆弱性の検出・修正に役立つ防御目的のデータを残し、攻撃目的の内容を除外したと説明した。コード生成の安全性検査や、化学・生物・放射性物質・核(CBRN)リスクに対応する追加学習の内容も明らかにした。

作業目的でデータを選別、機能性と安全性を評価

サイバー関連の学習データは、作業の目的に応じて選別したという。防御に必要な脆弱性の検出や修正に関する内容を保持することで、セキュリティー対策に役立つ知識を学習させる仕組みだと説明している。

ソフトウェア開発の学習では、機能テストと併せてコードの安全性を検査した。対象例として、インジェクション、メモリ安全性、アクセス制御の問題を挙げた。CBRNリスクについては、専用の安全性データセットを用意し、学習後の調整も導入したとしている。

コード生成の評価では、数値の対象範囲を分けて示した。アリババCloudの公式ブログによると、「Last Secure Code Bench」で関数・ファイル・リポジトリの3水準すべてで安全と判定されたコードの割合は、前モデルの8%からQwen4-Maxでは14.7%になったという。

一方、関数単位で機能性と安全性の両方を満たす割合は、Qwen3.8-Maxの22.0%に対して31.8%とした。こちらは評価範囲が異なる別の指標であり、いずれもアリババが公表した評価値だ。

ロイターによると、アリババは内部評価について、利用者が危険な作業を行う能力を大幅に高める証拠は見つからなかったと説明した。ただ、ロイターはこの評価結果を独自に検証していないと明記している。

公式発表時点で、Qwen4-MaxはQwenCloudのAPIなどを通じて提供を開始した。Qwen4系列の小規模なオープンウエイトモデルについては、近く公開する方針を示している。

参考・出典

ニュースはAIで深化する—。日々の出来事を深掘りし、次の時代を考える視点をお届けします。

本サイトの記事や画像はAIが公的資料や報道を整理し制作したものです。
ただし誤りや不確定な情報が含まれることがありますので、参考の一助としてご覧いただき、
実際の判断は公的資料や他の報道を直接ご確認ください。
[私たちの取り組み]