本サイトの記事や画像は、AIが公的資料や複数の報道を基に事実関係を整理・再構成し制作したものです。[続きを表示]特定の報道内容や表現を再利用・要約することを目的としたものではありません。ただし、誤りや不確定な情報が含まれる可能性がありますので、参考の一助としてご覧いただき、実際の判断は公的資料や各出典元の原文をご確認ください。[私たちの取り組み]
生成AIを使った詐欺や情報工作への警戒が強まる中、米OpenAIは25日、ChatGPTの悪用事例をまとめた脅威レポートを公開し、複数の不正アカウント群を停止した。中国の法執行機関に関係するとみられる活動や、ロマンス詐欺、さらに日本の政治家・高市早苗氏への中傷を狙う影響工作に結び付く動きが含まれていたという。
脅威レポート公開 停止したネットワーク
OpenAIによると、悪用はChatGPT単体では完結せず、SNS運用や外部サービスと組み合わせて進む例が目立った。マッチングアプリ運営者、法律事務所、米政府当局者などを装い、被害者をだましたり、別の犯罪へ誘導したりする動きが確認されたという。
ロイターによると、中国発とみられる少数のアカウントは、米国人に関する情報やオンラインフォーラム、米連邦政府施設の所在地を尋ね、顔の入れ替えソフトの扱い方も求めていた。同じアカウント群が、州レベルの米当局者やビジネス、金融分野の政策アナリストに向け、有償の相談に誘う英文メールを作成していたとも説明している。
このほか、複数のアカウントがインドネシア人男性を標的にしたロマンス詐欺に使われ、毎月数百人規模がだまされていた可能性があるとした。偽の出会い系サービスの宣伝文や広告の作成にもChatGPTが利用されたという。
詐欺と影響工作 広がる組み合わせ
ロイターの報道では、実在する弁護士や米国の法執行機関になりすまし、詐欺被害者をさらに食い物にする手口も挙げられた。OpenAIは、中国の法執行機関に関連する人物とつながるChatGPTアカウントを停止した。このアカウントは高市氏を狙った秘密裏の影響工作に関与していたとしている。
OpenAIは、脅威行為者が従来型の手口にAIを足し、作業を速めたり、文章や広告の説得力を高めたりしている実態を共有する狙いだと位置付ける。脅威は一つのプラットフォームにとどまらず、複数のモデルやツールを工程ごとに使い分けるとも指摘し、業界全体での検知と予防につなげたい考えである。
生成AIは、巧妙な文章や“もっともらしい肩書”を低コストで量産できるため、詐欺と影響工作の参入障壁を下げやすい。抑止には、AI事業者の監視と停止措置だけでなく、SNSや通信アプリ側の不正対策、送金や本人確認の仕組み強化、利用者教育を重ねる多層防御が欠かせない。対策が遅れれば、被害は個人の金銭だけでなく、社会の意思決定の基盤にも及び得る。
