JFCファクトチェック講座7:AIコンテンツの検証 細部を見る

JFCファクトチェック講座7:AIコンテンツの検証 細部を見る

AIで生成されたテキストや画像などのコンテンツが激増しています。その中から偽情報/誤情報をどう検証するかは、ファクトチェックにとって大きな課題です。現状では、自動で完璧に検知する万能ツールはまだ存在しません。では、人の目でどのように検証できるのか。解説します。

AIによる偽情報の実例

日本ファクトチェックセンター(JFC)の記事を例に、解説していきます。これは「 ドローンで撮影された静岡県の災害」はAI作成の偽画像というJFCのファクトチェック記事です。

画像

2022年9月に静岡県を襲った台風15号による水害をめぐって、「ドローンで撮影した画像」とされる3枚の写真がツイッター上で拡散しました。建物や木々が茶色い水に屋根近くまで浸かり、大規模な浸水被害が出ているように見えます。

画像

結論から言うと、この3枚の画像はすべてAIで作成したもので、静岡県の水害とはまったく関係がないものでした。どうやって検証していったかを見ていきます。

拡大して細部を確認する

1枚目の写真を拡大してみます。右側と奥に山並み。手前に住宅地と木々の茂みが広がり、大規模に浸水している写真ですが、よく見ると、不自然な箇所に気づきます。

画像

まず、左上の赤丸で囲っている場所の水面の影。尖って背の高い影がありますが、水上の地形にそれらしき高い木や木か尖塔のような建物は見当たりません。

左下の赤丸の部分は、何か建物の瓦礫のようにも見えますが、画像が不明瞭でよくわかりません。地震や土砂崩れ、堤防の決壊とは違い、浸水でここまで激しく建物が壊れるとも思えません。

2枚目の写真も見てみます。画面の右上は住宅街、画像を斜めに横切るように木々が並び、左下は点在する建物や木々が濁流に飲まれているようです。

画像

こちらも左上の赤丸で囲った部分の水面に映る影が不自然です。尖った棒のような影がいくつも並んでいますが、水上の地形にそれに対応するものがありません。

そもそも、この左下の濁流部分の中に建物が立っているのも不自然ですし、画像の手前側の水面は奥側の濁流と異なり、水面が鏡のように静かなのも変です。

3枚目の写真です。奥には広大な森林。その手前の住宅街が大規模に浸水し、さらに手前は川が流れているように見えます。

画像

これも1、2枚目と同様に影が不自然ですし、それ以外にもよく見ると、何の構造物なのかわからない不自然な線が伸びています。

指摘した点以外にも、不自然な部分はたくさんあります。住宅街であれば当然あるはずの電柱や電線がなく、浸水して動けなくなった車も見当たらず、人影もない。

ただ、こうした「不自然さ」は画像を拡大して、細かく見ていったからこそ気がつくものです。ソーシャルメディアのタイムライン上に流れてくる小さな画像をスマートフォンで見ているだけだと、災害時の衝撃も相まって、思わず信じてしまう人もいます。

JFCではこのとき、自分たちの目で検証するだけではなく、静岡県危機情報課に問い合わせて「集落や街の大半が水没するほどの浸水被害はない」ということを確認しました。また、投稿者自らも「AIで作った偽の画像」と認めました。

AIによる人物画像はどこを見ればよいか

AIで作成した風景画像には、不自然な描写がたくさんあることがわかりました。特に影の描写や、実際にそういう風景がありえるのか、という視点で見ると、おかしな点に気がつきます。では、人物画像はどうでしょうか。4つのポイントをあげます。

  • 指:本数や形。不自然に長かったり、細かったりしないか
  • 耳:耳の外側の凹凸や耳たぶの形などが不自然ではないか
  • 歯:一本ずつ明瞭に描写されているか
  • 髪:整いすぎていたり、生え際が不明瞭ではない

これらの細部の描写は、まだまだAIが苦手としている部分です。拡大をしてみると不自然さに気づくことがあります。

例えば、最近話題になったローマ法王に関する画像。指の描写が実際の法王と異なります。指の本数や長さ・細さなどの詳細に着目しましょう。

画像

次にこちらのトランプ前大統領の画像。耳や髪、指の描写などに違和感があります。また、警官たちの顔の多くが不自然にボケています。

画像

動画の場合は、これらの4つのポイントだけでなく。次の2点もヒントになります。

  • 表情:話している内容と表情は一致しているか
  • 髪や歯:体の動きとあわせて自然に動いているか

テクノロジーの活用が不可欠

AI技術は日進月歩で進化していくため、そう遠くないうちに人間の目では本物と判別不可能な画像や動画がAIによって制作可能になるでしょう。ファクトチェックする側もテクノロジーを活用しなければ、AIによる無限の偽情報/誤情報の生成に対応することは不可能です。

国際ファクトチェックセンター(IFCN)が年に1回開催するGlobal Factでは、ファクトチェッカーだけでなく、技術者、研究者らも参加して、テクノロジーの開発や活用について議論しています。

怪しい情報を検知し、検証し、必要な人に届ける。この3段階それぞれにおいて技術が発達していくことが、今後の偽情報/誤情報対策の鍵を握っています。

今年のGlobal Factは10回目にして初のアジア開催。6月28-30日に韓国・ソウルで開かれます。私も参加する予定です。

画像

ファクトチェック講座の次回は、オープンソース・インテリジェンス(OSINT)を使った検証について解説します。

講座目次

  1. 意見や推測ではなく事実を検証する
  2. 検証は効果あり 検索やAIにも反映される
  3. 検証の4ステップ 「横読み」で効率的に
  4. 実践的な検索技術 効率的にソースを探す
  5. 画像の検証 GoogleレンズとTinEye
  6. 動画の検証 InVIDとYouTube検索
  7. AIコンテンツの検証 細部を見る
  8. 公開情報こそ重要 OSINT技術を使いこなす
  9. 国際的な標準ルール 信頼性を確保する
JFC ファクトチェック講座 - 日本ファクトチェックセンター (JFC)
ファクトチェックの考え方や技術、便利なツールの活用方法を実践的に学ぶ連載です。

筆者略歴

画像

判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら

もっと見る

岩屋外相「65歳以上の中国人はビザ不要に」と発言? まとめサイトによるもの【ファクトチェック】

岩屋外相「65歳以上の中国人はビザ不要に」と発言? まとめサイトによるもの【ファクトチェック】

岩屋毅外務大臣が「65歳以上の中国人はビザ不要に」と発言したかのような投稿が拡散しましたが、誤りです。拡散した投稿はまとめサイトのもので、実際に不要になるわけでも、岩屋外相がそう発言したわけでもありません。 検証対象 2025年5月7日、「【売国/岩屋】中国人65歳以上はビザ不要に!!」という投稿がXで拡散した。 この投稿は2025年5月12日現在、442万回以上の閲覧回数と8700件以上のリポストを獲得している。投稿について「マジでなんのために??」「いい加減にしてほしい」というコメントの一方で「パッと調べたところそのような記事は見当たらないんだけど」という指摘もある。 検証過程 拡散したのは掲示板サイトのスレッドタイトル 検証対象のリンクは、まとめサイト「ツイッター速報〜BreakingNews」の記事だ。タイトルは掲示板サイトおーぷん2ちゃんねるのスレッド「【売国/岩屋】中国人65歳以上はビザ不要に!! 」だ。 このスレッドには「もー!岩屋毅は許さない!中国人65歳以上はビザ不要にして!中国人専用の人間ドックを税金で開設!日本人の健康保険を

By リサーチ チーム
全国の新聞社が始める「ファクトチェック」/さっそく嵐のなりすまし/目立つトランプ発言の捏造など【今週のファクトチェック】

全国の新聞社が始める「ファクトチェック」/さっそく嵐のなりすまし/目立つトランプ発言の捏造など【今週のファクトチェック】

2024年の兵庫県知事選の轍を踏まないようにと、全国の新聞社が独自の「ファクトチェック」を始めています。活動終了を発表した嵐に便乗するなりすましアカウントが続々と。その他、トランプ発言を捏造して拡散させる手法が蔓延しています。 ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 JFCからのお知らせ JFCファクトチェック講師養成講座はこちら 日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は5月18日(日)午後2時~3時半で、お申し込みはこちら。 JFCファクトチェック講師養成講座 申込はこちら日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオ

By 日本ファクトチェックセンター(JFC)
トランプ大統領が日本のメディアを危険指定? まとめサイトによるもの【ファクトチェック】

トランプ大統領が日本のメディアを危険指定? まとめサイトによるもの【ファクトチェック】

「トランプ大統領が日本のメディアを危険指定した」という投稿が拡散しましたが、誤りです。拡散した投稿はまとめサイトのXアカウントで、見出しは掲示板サイトのスレッドタイトルを引用しているだけです。 検証対象 2025年5月8日、「トランプ大統領が日本のメディアを危険指定」という投稿が拡散した。 2025年5月9日現在、この投稿は8400件以上リポストされ、表示回数は252万回を超える。投稿について「はい当然です」「どんどんやってください」というコメントがついている。 検証過程 まとめサイトと添付記事の内容が不一致 検証対象のリンクは、まとめサイト「TweeterBreakingNews-ツイッ速!」の記事だ。 タイトルは掲示板サイト5ちゃんねるのスレッド「【日米】トランプ大統領、日本メディアを「危険指定」[R7/5/08]」で、掲示板サイトの反応をまとめたYouTube動画「【衝撃】トランプ、日本メディアを『危険指定』」が引用元だとしている。 動画は2025年5月7日に投稿された。「トランプ大統領は時事通信と共同通信を危険な通信社2社に指定した、と

By 木山竣策
トランプ大統領が「行方不明の10兆円が日本の財務省に関係している」と暴露? そのような事実や発言はない【ファクトチェック】

トランプ大統領が「行方不明の10兆円が日本の財務省に関係している」と暴露? そのような事実や発言はない【ファクトチェック】

トランプ大統領が「行方不明の10兆円が日本の財務省に関係していると暴露した」という情報が拡散しましたが、誤りです。トランプ氏のSNSにも、ホワイトハウスの公式サイトにもそのような発信はなく、報道もありません。 検証対象 「トランプ大統領が、行方不明の10兆円が日本の財務省に関係していると暴露した」などと主張するショート動画がFacebook、インスタグラム、TikTokなど複数のプラットフォームで拡散している(例1、例2、例3)。 この動画をもとにした投稿はXでもシェアされ、2025年5月9日現在、リポスト1万回以上、表示は563万回を超えている。 X投稿には「財務省マジで解体させられる」「逮捕間近っぽいな」などのコメントのほか「何でトランプさんがそんな事知ってるんだ!絶対ウソ」という指摘もある。 検証過程 拡散した動画の内容は FacebookやXなどでも転載されて広く拡散した動画は、トランプ氏の写真などを組み合わせた映像に、テロップとナレーションが入っている。ナレーションは以下の通りだ。 「トランプ氏が驚きの暴露を行いました。それは行方不明

By 根津 綾子

ファクトチェック講座

トランプ大統領が「行方不明の10兆円が日本の財務省に関係している」と暴露? そのような事実や発言はない【ファクトチェック】

トランプ大統領が「行方不明の10兆円が日本の財務省に関係している」と暴露? そのような事実や発言はない【ファクトチェック】

トランプ大統領が「行方不明の10兆円が日本の財務省に関係していると暴露した」という情報が拡散しましたが、誤りです。トランプ氏のSNSにも、ホワイトハウスの公式サイトにもそのような発信はなく、報道もありません。 検証対象 「トランプ大統領が、行方不明の10兆円が日本の財務省に関係していると暴露した」などと主張するショート動画がFacebook、インスタグラム、TikTokなど複数のプラットフォームで拡散している(例1、例2、例3)。 この動画をもとにした投稿はXでもシェアされ、2025年5月9日現在、リポスト1万回以上、表示は563万回を超えている。 X投稿には「財務省マジで解体させられる」「逮捕間近っぽいな」などのコメントのほか「何でトランプさんがそんな事知ってるんだ!絶対ウソ」という指摘もある。 検証過程 拡散した動画の内容は FacebookやXなどでも転載されて広く拡散した動画は、トランプ氏の写真などを組み合わせた映像に、テロップとナレーションが入っている。ナレーションは以下の通りだ。 「トランプ氏が驚きの暴露を行いました。それは行方不明

By 根津 綾子
JFCファクトチェック講師養成講座 申込はこちら

JFCファクトチェック講師養成講座 申込はこちら

日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は5月18日(日)午後2時~3時半で、お申し込みはこちら。 https://jfcyousei0518.peatix.com/view 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的にどのよう

By 古田大輔(Daisuke Furuta)
理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

By 古田大輔(Daisuke Furuta)