詐欺対策ボットからディープフェイク判定まで、偽・誤情報対策におけるAI活用【GlobalFact2026報告②】

国際ファクトチェックネットワーク（IFCN）の「グローバル・ファクト2026」で、注目を集めたテーマの一つがAIです。偽情報を大量に生み出す「脅威」であると同時に、ファクトチェックを支える「味方」にもなる。そうしたAIの二面性を象徴するような報告や議論が、随所で交わされました。

詐欺対策からヘイトスピーチ監視まで、現場で進むAI活用

3日間にわたる会議の中で、初日から、AIを活用した成功例が次々と報告されました。特に印象的だった3つの事例を紹介します。 

オンライン詐欺対策にAIチャットボット

インドのファクトチェック団体The Quintからは、オンライン詐欺対策用に開発したAIチャットボット「Scamguard」の紹介がありました。

The Quintは、インドで発生しているオンライン詐欺の手口をまとめたデータベースをつくり、そのデータベースとWhatsAppなどのメッセージアプリをつないだチャットボットを作成。不審なメッセージを受け取ったユーザーが、アプリのチャットボットに転送すると、ボットが詐欺の見分け方や政府の窓口の情報などを案内する仕組みをつくりました。

ファクトチェック団体が、詐欺情報の注意喚起をする記事を書いても、ユーザーが相談窓口などのリンク先に接続することは稀です。けれども、このチャットボットには、詐欺への対処法などを、ユーザーが使い慣れているメッセージアプリへ直接送ることができるという利点があります。

発表者は、詐欺メッセージが飛び交うWhatsAppやTelegramなどのアプリ上で、すぐに詐欺かどうかを見分けられるので犯罪の抑止効果が高いことや、他国の詐欺対策にも応用しやすいことを強調しました。

このシステムはIFCNの助成金を受けて作られました。

AIで作ったスラングのDBが新たな収入源に

21カ国以上に展開し、テクノロジーを活用して地域の課題を解決するシビックテックで、データジャーナリズムにも取り組む非営利組織Code for Africaは、AIを活用し、オンラインで頻出するスラングの「辞書」を作成したと発表しました。

ネット上には様々なスラングが存在します。例えば、日本では新型コロナワクチンのことを「コロワク」、「ワク◯ン」など、略称や伏せ字を使って言い換えることがあります。特定のコミュニティの中だけで通じる隠語も次々と生まれ、偽・誤情報やヘイトスピーチなどを検知する監視アルゴリズムをすり抜けてしまいます。

Code for Africaは、データサイエンティストが3〜4人は必要な量のデータをAIで分析し、辞書を作成。コストを抑えて有害な言葉を早期発見する体制を維持していると言います。この「辞書」は、国際機関に有償で提供し、活動の資金源にもなっているそうです。

AIで仮説を立てて記者が裏とり

開催国リトアニアと同じバルト三国の一つ、エストニアのメディアDelfiからの参加者は生成AIを手軽に活用した事例を報告しました。

国内で発生した停電トラブルについて、生成AIとチャットを繰り返すことで、停電の原因と関係がありそうな企業をしぼり、記者が企業に取材して裏とりをすることで記事に結実したと言います。

ディープフェイク増加への対策は

AI活用と同時に注目を集めたのが、AIで作られる「ディープフェイク」への対策です。

世界中にファクトチェックチームを配置するフランスの通信社AFPで、テクノロジーを活用した検証の責任者を務めるDenis Teyssou氏は具体例を挙げて検証法を解説し、注目を集めました。

AIによる真偽判定には限界

Teyssou氏によると、AFPでは2025年以降、AI関連のファクトチェックが急増。2025年1月から26年6月までに検証した対象のうち、生成AIによるものが約4分の1に上ったそうです。

量が増えただけでなく、質も向上し、ディープフェイクの真贋を人間の眼で判定することは飛躍的に難しくなっています。一方で、AIを活用した判定にも限界があります。Teyssou氏は具体例を挙げて解説しました。

2026年3月、イスラエルのネタニヤフ氏の動画とともに、「ネタニヤフ氏の右手には指が6本あるため、この動画は生成AIによる偽物だ。ネタニヤフは隠れているのか、殺されたか、重症を負っているのか」という言説がSNSで拡散しました。

Teyssou氏がGeminiにこの動画の真偽を問うと、Geminiは「人工的に生成されたか、あるいは大幅に改ざんされたことを示唆する『デジタル痕跡』がいくつか存在するため、ディープフェイクの可能性が高い」と回答しました。

納得がいかず、改めてGeminiに「AI生成ではなく、動画の強い圧縮によるものではないか」と指摘し、元の高画質動画と併せて確認するよう指示したところ、「動画は本物です、生成AIではありません」とGeminiが判定を改めたと言います。

判定ミスの原因を尋ねると、Geminiは「動画の容量を軽くするためのクロマサブサンプリングやフレーム間圧縮などでおきた映像の劣化が、AI生成動画の特徴と似ていたから」と回答したそうです。

この動画に関して、Teyssou氏が所属するAFPは、動画圧縮による画質の劣化やブレで、指が不自然に見えたというAI専門家の解説などと併せて、ネタニヤフ氏死亡説を否定する記事を公開しました（AFP ”Posts falsely claim Netanyahu video fabricated to cover up his death”2026年4月1日）。

つまり、動画圧縮による画像の乱れは、肉眼での誤解を生むだけではなく、AIもディープフェイクと圧縮の影響を区別できないことがあると言えます。

頼みのSynthID、誤検知の懸念も

ディープフェイクの真偽を確実に見極める技術は喫緊の課題です。その中でファクトチェッカーが期待を寄せるのはGoogleが開発した「SynthID」という技術です。これは、GeminiなどGoogleのAI技術で作ったAI生成コンテンツに埋め込まれる「電子透かし」で、SynthIDを検出すれば、それが生成AIだと判定できます。OpenAIも採用し、世界に広がりつつあります。

画像の出典を示す技術としては、ほかにC2PAやIPTCなどによるメタデータもあります。しかし、Teyssou氏はそれらのメタデータは、SNSへ投稿した際に「プラットフォームによって取り除かれることがある」ため、SynthIDの方が「強靭だ」と話しました。

そのうえで、Teyssou氏は、現在の判定ツールは、AI生成ではないのにAIと判定してしまう「偽陽性」とその逆の「偽陰性」が起こり得ると指摘しました。

実際に、ある画像を検証した際、GoogleのツールでSynthIDをチェックしても無反応だったが、OpenAIのツールでチェックしたらAI生成と判定された事例があったと言います。Teyssou氏は「誤検知の割合がどの程度かは分かっていない」と述べました。

ツールの信頼性評価の必要性

最近は、実在の政治家の表情をAIで操作し、弱々しく見せたり感情的に見せたりするような、実在する画像の一部のみを改変する手法が増えており、ますます映像の真偽を見破りにくくなっています。

AFPは、画像の操作個所を視覚的に特定する検証ツールを共同開発し、12言語で提供しています（7月12日現在）。

JFCでもディープフェイクの判定には複数の検出ツールを使いますが、ツールによって結果に大きく開きがあり、判定の材料にならないことが増えています。

Teyssou氏は、現在、多くの生成AI検出ツールは、画像を明るくしたり、はっきりさせたりという高画質化をするだけでもフェイクと判定してしまうことがあるなど、誤検知が課題で、「ツールの性能を客観的に評価する体制の構築が必要だ」と強調しました。

編集：古田大輔、藤森かもめ