本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
生成AIの安全対策が、国家レベルの情報工作とも隣り合わせになっている。米OpenAIは25日、同社の脅威レポートを公表し、中国の法執行機関に関係するとみられる人物が昨年10月中旬、対話型AI「ChatGPT」を使って日本の高市早苗首相の信用を傷つける世論工作の段取りを練ろうとしていたと明らかにした。
中国関連アカウント 高市氏標的の影響工作計画
OpenAIが公表したレポートでは、中国の法執行機関に関係する個人にひも付いたChatGPTアカウントが、高市首相を対象に、秘匿性の高い影響工作の計画作成や、作戦の進み具合をまとめる文書の整形などに使われたと位置付けた。
計画が動き出したきっかけとして、昨年10月中旬に高市氏が内モンゴルの人権状況を公に批判した点が挙げられた。ITmediaの報道では、否定的な言葉の拡散や、外国人居住者を装った移民政策への不満のあおりなど、複数方向から信用を落とす筋書きをChatGPTに求めたという。
一方で、ChatGPTは工作の実行に加担する依頼を退けたとされる。OpenAIは利用規約に反する活動として関連アカウントを停止し、同種の悪用を見つけ次第、遮断を続ける姿勢を示した。
AI悪用の実像 詐欺と情報工作の併走
今回の脅威レポートは影響工作だけでなく、ロマンス詐欺や偽の法律事務所になりすます手口など、複数の事例を並べている。Business Insiderは、詐欺側が文章や画像の生成、やり取りの台本作りにAIを組み込み、外部の通信アプリへ誘導して金銭をだまし取る流れが取られていたと伝えた。
影響工作の側面では、アクシオスが、OpenAIの調査担当者が「秘密裏の影響工作」や「越境的な抑圧」に近い問題として説明したと報じた。OpenAI自身も、脅威行為は一つのAIモデルや一社のサービスに閉じないとし、複数の道具を組み合わせて運用される点を警戒材料として示している。
生成AIは文章の量産や口調の作り分けを速め、少人数でも「それらしく見える発信」を増やせる。だからこそ、提供側の遮断だけで終わらず、プラットフォーム間の連携、なりすまし対策の標準化、政治家や市民がだまされやすい型を共有する仕組みづくりが欠かせない。対策が遅れれば、国内の分断をあおる投稿が日常的に混ざり込む状態が続く。
