ChatGPTが、国境を越えて活動する詐欺グループの分業システムに組み込まれていたことが、OpenAIの発表によって明らかになりました。タイトルだけを見れば、OpenAIが不正利用されたアカウントを停止したという、よくあるセキュリティニュースの一つに思えるかもしれません。
しかし、この件で本当に注目すべきなのは別のところにあります。詐欺グループは、もはや生成AIに数行の詐欺文句を書かせているだけではありません。「標的探し」「アカウントの育成」「会話」「翻訳」「偽造資料の作成」「支払いの催促」までを含む、詐欺の一連の流れにAIを組み込んでいたのです。
OpenAIは公式記事の中で、カンボジアのポイペト周辺を拠点としていた可能性が高いアカウントネットワークを停止したと発表しています。このネットワークは、投資詐欺、恋愛感情を利用した詐欺、オンラインギャンブルを装った詐欺、法執行機関になりすまして金銭を要求する詐欺など、複数の犯罪に同時に関与していました。
またOpenAIによると、調査のきっかけとなる情報はWhatsAppから提供され、確認された脅威情報は業界パートナーや関係当局にも共有されたといいます。
ここで、日付に関する小さな補足があります。事前に提供された資料では、OpenAIが2026年8月4日に発表したとされていました。しかし、原稿作成時点の2026年8月1日に公式ページを改めて確認したところ、ページには「July 31, 2026」と表示されていました。
したがって、より正確には、「OpenAIが2026年7月31日付の記事として公開した」と表現するのが適切です。以前表示されていた8月4日という日付は、ページ上の表記ミスで、その後修正された可能性があります。
ChatGPTは一つの詐欺ではなく、複数の手口を支えていた
今回の事例で特徴的なのは、詐欺グループが一つの手口だけを使っていたわけではないという点です。
OpenAIによると、問題のアカウントは架空の恋愛プロフィールを作成し、被害者との関係を築いた後、暗号資産や金の現物取引などの「投資機会」へと話題を誘導していました。オンラインギャンブル事業者を装い、偽のボーナス、キャッシュバック、当選通知を送りつけるアカウントもありました。
さらに、法執行機関の職員になりすまし、「重大な違法行為に関与している」と標的を脅し、罰金の支払いを要求するケースも確認されています。
これは、一般に「殺猪盤」と呼ばれるロマンス投資詐欺に近い構造ですが、実態はさらに複雑です。従来のロマンス投資詐欺では、まず恋愛感情や親密な関係を利用して信用させ、その後、投資へ誘導するという流れが一般的でした。現在では、その一連の流れが複数の役割に分けられています。
プロフィール作成： 写真の説明文、SNSのプロフィール、出会いを演出する会話文を作成する。
翻訳： 詐欺の文面を標的の言語に翻訳し、国境を越えたコミュニケーションの負担を減らす。
感情操作： 親密さや緊迫感を演出し、秘密を守るよう求めたり、「機会を逃してしまう」という不安をあおったりする。
証拠の偽造： パスポート、法的通知、株式購入確認書、ギャンブルサイトの画面などを偽造する。
集金： アクティベーション料金、保証金、罰金、報酬の解除費用などの名目で、被害者に金銭を支払わせる。
この中でAIが果たしていたのは、「主犯」の役割ではありません。詐欺の工程の中でも、特に人手と時間がかかる作業を効率化するコンテンツ生成ツールとして利用されていました。多言語での会話、役割の演じ分け、資料の作成、内部文書の整理、さらには従業員の管理まで、幅広い用途に使われていたのです。
そして、ここに最も厄介な問題があります。以前、詐欺グループが複数の言語圏で活動するためには、外国語を扱える人材、完成度の高い台本、大規模な研修が必要でした。しかし生成AIは、その参入障壁の一部を取り払います。
詐欺を行う側に高い文章力がなくても、目的や状況を説明するだけで、自然で人間らしく、現地の言葉遣いや文化的な感覚にも合った文章を生成できるからです。
OpenAIが整理した三段階の手口
OpenAIは、こうした詐欺のやり取りを「ping」「zing」「sting」という三つの段階に整理しています。日本語で表現するなら、「接触」「感情的なつながりの構築」「金銭の搾取」です。
第1段階：接触
詐欺グループは生成AIを使ってメッセージを作成・翻訳し、WhatsAppやTelegramなどのプラットフォーム上で標的に接触します。SNS向けの投稿やプロフィール文章を作り、架空の恋愛アカウントをもっともらしく見せることもあります。
第2段階：感情的なつながりの構築
この段階では、「確実に儲かる」「リスクは低い」「あなただけに教える」「誰にも言わないでほしい」「この機会はもうすぐ終わる」といった言葉を中心に会話が組み立てられます。
恋愛的なやり取りによって警戒心を解き、投資の話によって一見もっともらしい利益の理由を与え、時間的な圧力によって冷静に確認する余裕を奪います。
第3段階：金銭の搾取
最後に被害者は、送金、手数料の支払い、ボーナスの解除、罰金の支払いなどを要求されます。送金の証拠として、振込画面のスクリーンショットや口座情報を提出するよう求められる場合もあります。
ChatGPTが高めた詐欺グループの「即応力」
この構造そのものは、決して新しいものではありません。新しいのは、AIによって一連のやり取りが、より自然で滑らかになったことです。
以前であれば、不自然な言葉遣いや文法上の誤り、プロフィール設定の矛盾などをきっかけに、相手を怪しいと感じることがありました。しかし生成AIは、詐欺師の文章を自然に整え、人物の背景設定を補い、会話中の口調やキャラクターを維持できます。
さらに、各国の被害者から届いたメッセージを、詐欺グループのメンバーが理解できる言語へ翻訳することも可能です。
より深刻なのは、AIによって、その場での対応力が高まったことです。被害者が「なぜビデオ通話をしてくれないのか」と尋ねれば、もっともらしい理由を作ることができます。「この投資プラットフォームは合法なのか」と聞かれれば、説得力のある説明文を生成できます。
被害者が疑い始めても、すぐに丁寧で常識的に見える、安心させるためのメッセージを用意できます。
生成AIが詐欺そのものを生み出したわけではありません。しかし、詐欺を大規模なカスタマーサポート業務のように運営できる仕組みを支えたことは確かです。
最も重い問題――画面の前にいる人も被害者かもしれない
今回の発表で特に立ち止まって考えるべきなのは、人身取引と強制労働を示す兆候です。
OpenAIによると、一部のアカウントでは、人身取引や強制労働に関係している可能性のあるコンテンツが生成されていました。例えば、ポイペトで「チャットスタッフ」を募集する求人広告が作られ、航空券、宿泊施設、食事、ビザ、就労許可などの提供が約束されていました。
別のコンテンツには、詐欺拠点で使われていたとみられる管理文書の内容が含まれていました。従業員の借金、給与からの天引き、規律違反への罰金、ローンの返済、在留資格、就労許可、ビザの期限超過、採用時のインセンティブなどです。
さらに、一部の会話では、監禁の疑い、逃亡の試み、詐欺への加担を強制された人が刑事責任を問われる可能性についても言及されていました。
OpenAIは慎重な表現を用い、関係者一人ひとりが具体的にどのような状況に置かれていたのかを、独自に判断することはできないとしています。ただし、確認された兆候は、これまで公表されてきた東南アジアの詐欺拠点に関する報道と一致する部分があります。
筆者整理：今回の発表で確認された、人身取引と強制労働を示す兆候
だからこそ、この種のニュースを単純に「詐欺師がAIを悪用した」とだけ表現することには違和感があります。東南アジアの詐欺拠点に関する多くの事件では、犯罪の構造がさらに複雑だからです。
被害者の中には、カスタマーサポート、運営、翻訳、オンラインマーケティングなどの仕事だと信じて現地へ渡った人もいます。しかし、到着後に身分証明書を取り上げられ、借金を負わされ、脅迫や暴力を受け、他人をだますよう強制されるケースがあります。
つまり、一つの詐欺の会話の背後に、二人の被害者が存在する可能性があるのです。一人は、画面の向こう側で金銭をだまし取られる人。もう一人は、画面のこちら側で拘束され、詐欺を強制されている人です。
AIがここで増幅しているのは、個々の犯罪者の能力だけではありません。組織犯罪全体の運営効率です。AIを利用すれば、上層部は新人を研修しやすくなり、会話の内容や口調を統一し、複数の言語圏へ活動を拡大できます。
その一方で、支配されている末端の実行役には、より多くの「ノルマ」を課せるようになります。これこそが、最も恐ろしい部分です。
ChatGPTのアカウント停止だけでは不十分
OpenAIは今回、関係するアカウントを停止し、脅威情報を業界パートナーや関係当局と共有しました。さらに、問題の利用者が同社の製品やサービスへ再びアクセスすることを難しくするための措置も講じています。
こうした対応には、もちろん意味があります。しかし、アカウントを停止することは、詐欺に使われている道具の一つを遮断するにすぎません。
詐欺グループの犯罪網には、通常、SNS、メッセージアプリ、偽サイト、暗号資産ウォレット、決済経路、クラウドサービス、電話番号、広告配信、求人仲介業者、現実世界の詐欺拠点が含まれています。
したがって、本当の問題は「あるAI企業がアカウントを停止したかどうか」ではありません。複数のプラットフォームが、それぞれの持つ情報を結び付けられるかどうかです。
WhatsAppがOpenAIへ調査の手がかりを提供したという点は、非常に重要です。AIプラットフォームには、モデルへ送られたリクエストが見えます。メッセージアプリには、標的への接触や会話ネットワークが見えます。決済事業者には、資金の流れが見えます。法執行機関には、現実世界の組織や関係者が見えます。
それぞれが単独で見ているものは、事件の一部分にすぎません。それらを組み合わせて初めて、犯罪の全体像が見えてきます。
この事例は、AIの安全対策を「モデルが危険な質問に回答するかどうか」だけで判断してはいけないことも示しています。
より現実的な課題は、アカウントネットワークが、似たような詐欺の台本、偽造資料、多言語での会話、内部管理文書を継続的に生成しているとき、プラットフォーム側がそれを一つの組織的活動として認識できるかどうかです。
個別のコンテンツを一件ずつ審査するだけでは、組織犯罪には対応できません。アカウントネットワークの特定、プラットフォームをまたいだ情報共有、決済時のリスク管理、本人確認と端末情報を用いた不正対策、法執行機関との連携。こうした仕組みこそが、この問題に本当に必要なインフラです。
一般の利用者は、どう身を守ればよいのか
AIを利用した詐欺では、話し方が今後さらに人間らしくなり、言語上の不自然さも減っていくでしょう。相手の返答に応じて、詐欺の手口をリアルタイムで調整することも可能になります。
それでも、詐欺にはいくつかの共通した弱点があります。
1．「確実に儲かる投資」は、まず詐欺を疑う
見知らぬ相手が突然持ちかける投資話には注意が必要です。特に警戒すべきなのは、暗号資産、外国為替、金の現物取引、オンラインギャンブル、特別な報酬案件、タスク型のキャッシュバックなどです。
2．公開の場から個別チャットへ誘導されたら警戒する
特にWhatsAppやTelegramなどのメッセージアプリへ誘導された場合は注意が必要です。アプリ自体に問題があるわけではありませんが、詐欺グループは、監視が難しく、大量のアカウントを運用しやすい場所へ会話を移したがる傾向があります。
3．「秘密」と「時間制限」を強調されたら立ち止まる
正当な投資案件が、家族や友人に相談しただけで無効になることはありません。本物の法執行機関が、見知らぬチャットアカウントを通じて、誰にも言わずに送金するよう要求することもありません。
4．出金や報酬の解除を理由に先払いしない
「利益を引き出すため」「ボーナスを解除するため」「リスクを解消するため」「本人確認を完了するため」などの名目で金銭を要求されても、支払ってはいけません。
画面が本物らしく見えても、相手が身分証明書、契約書、法的文書を提示してきても、必ず相手とは別の独立した経路で確認してください。
さらに、もっと単純な判断基準があります。公開の場から個別チャットへ移動させ、親密な関係を築き、高い利益を約束し、最後に送金を求める。この流れが組み合わさった時点で、すぐに立ち止まるべきです。
相手がAIを使っているかどうかを見抜く必要はありません。その会話の流れが、自分を支払いへと誘導しているかどうかを見ればよいのです。
ChatGPTだけの問題ではない
OpenAIにとって、これは不正利用への対応を発表するセキュリティ報告です。一般の利用者にとっては、詐欺への注意を促す警告です。しかしAI業界全体にとっては、さらに大きな変化を示すシグナルでもあります。
AIは現在、「コンテンツを生成する道具」から「業務フローを支える基盤」へと移行しつつあります。
良い面を見れば、AIに報告書を書かせ、コードを作成させ、表計算を処理させ、顧客対応を行わせ、翻訳や資料整理を任せることができます。しかし悪用する側も、AIに架空の人物像を作らせ、詐欺の文面を翻訳させ、偽造資料を作らせ、詐欺拠点を管理し、新人を研修することができます。
そのため今後、AI製品が安全かどうかを判断する際には、モデルが一回の質問に対して回答を拒否したかどうかだけを見ていては不十分です。長期的な行動、アカウントネットワーク、異常な業務フロー、プラットフォームをまたいだ脅威を検知できるかどうかも重要になります。
今回の発表が重要だと考える理由も、そこにあります。この事例は、「AIの悪用」という抽象的な議論を、現実の社会へと引き戻しました。
現実世界の詐欺は、一つのプロンプトだけで完結するものではありません。複数の役割や工程が組み合わさった、組織的な犯罪ビジネスです。AIが単独で悪事を働いているわけでもありません。AIがその犯罪ビジネスの中へ組み込まれることで、一部の工程がより安く、より速く、より人間らしくなっているのです。
今後、本当に注目すべきなのは、OpenAIが何件のアカウントを停止したかだけではありません。AIプラットフォームは、被害が発生する前にアカウントネットワークを発見できるのか。メッセージアプリとAIプラットフォームの間に、継続的な脅威情報の共有体制を構築できるのか。決済や暗号資産取引の経路で、不審な資金をより早く止められるのか。各国の法執行機関は、オンライン上のアカウントと、現実世界の詐欺拠点を結び付けられるのか。こうした点を継続して見ていく必要があります。
この問題を、「AIが悪くなった」と理解してはいけません。より正確に言えば、AIが生産性向上のための道具になれば、正規の企業だけでなく、違法な組織にも入り込むということです。
道具が強力になればなるほど、それを現実社会の制度や仕組みの中で管理する必要性も高まります。そうでなければ、画面上では単なるチャットボックスにしか見えなくても、その背後ではすでに、**国境を越えた詐欺の「生産ライン」**が動いているかもしれません。
資料出典：OpenAI「Disrupting malicious uses of AI by a criminal scam operation」
https://openai.com/index/disrupting-malicious-uses-of-ai-criminal-scam-operation/
