JFCファクトチェック講座7:AIコンテンツの検証 細部を見る

JFCファクトチェック講座7:AIコンテンツの検証 細部を見る

AIで生成されたテキストや画像などのコンテンツが激増しています。その中から偽情報/誤情報をどう検証するかは、ファクトチェックにとって大きな課題です。現状では、自動で完璧に検知する万能ツールはまだ存在しません。では、人の目でどのように検証できるのか。解説します。

AIによる偽情報の実例

日本ファクトチェックセンター(JFC)の記事を例に、解説していきます。これは「 ドローンで撮影された静岡県の災害」はAI作成の偽画像というJFCのファクトチェック記事です。

画像

2022年9月に静岡県を襲った台風15号による水害をめぐって、「ドローンで撮影した画像」とされる3枚の写真がツイッター上で拡散しました。建物や木々が茶色い水に屋根近くまで浸かり、大規模な浸水被害が出ているように見えます。

画像

結論から言うと、この3枚の画像はすべてAIで作成したもので、静岡県の水害とはまったく関係がないものでした。どうやって検証していったかを見ていきます。

拡大して細部を確認する

1枚目の写真を拡大してみます。右側と奥に山並み。手前に住宅地と木々の茂みが広がり、大規模に浸水している写真ですが、よく見ると、不自然な箇所に気づきます。

画像

まず、左上の赤丸で囲っている場所の水面の影。尖って背の高い影がありますが、水上の地形にそれらしき高い木や木か尖塔のような建物は見当たりません。

左下の赤丸の部分は、何か建物の瓦礫のようにも見えますが、画像が不明瞭でよくわかりません。地震や土砂崩れ、堤防の決壊とは違い、浸水でここまで激しく建物が壊れるとも思えません。

2枚目の写真も見てみます。画面の右上は住宅街、画像を斜めに横切るように木々が並び、左下は点在する建物や木々が濁流に飲まれているようです。

画像

こちらも左上の赤丸で囲った部分の水面に映る影が不自然です。尖った棒のような影がいくつも並んでいますが、水上の地形にそれに対応するものがありません。

そもそも、この左下の濁流部分の中に建物が立っているのも不自然ですし、画像の手前側の水面は奥側の濁流と異なり、水面が鏡のように静かなのも変です。

3枚目の写真です。奥には広大な森林。その手前の住宅街が大規模に浸水し、さらに手前は川が流れているように見えます。

画像

これも1、2枚目と同様に影が不自然ですし、それ以外にもよく見ると、何の構造物なのかわからない不自然な線が伸びています。

指摘した点以外にも、不自然な部分はたくさんあります。住宅街であれば当然あるはずの電柱や電線がなく、浸水して動けなくなった車も見当たらず、人影もない。

ただ、こうした「不自然さ」は画像を拡大して、細かく見ていったからこそ気がつくものです。ソーシャルメディアのタイムライン上に流れてくる小さな画像をスマートフォンで見ているだけだと、災害時の衝撃も相まって、思わず信じてしまう人もいます。

JFCではこのとき、自分たちの目で検証するだけではなく、静岡県危機情報課に問い合わせて「集落や街の大半が水没するほどの浸水被害はない」ということを確認しました。また、投稿者自らも「AIで作った偽の画像」と認めました。

AIによる人物画像はどこを見ればよいか

AIで作成した風景画像には、不自然な描写がたくさんあることがわかりました。特に影の描写や、実際にそういう風景がありえるのか、という視点で見ると、おかしな点に気がつきます。では、人物画像はどうでしょうか。4つのポイントをあげます。

  • 指:本数や形。不自然に長かったり、細かったりしないか
  • 耳:耳の外側の凹凸や耳たぶの形などが不自然ではないか
  • 歯:一本ずつ明瞭に描写されているか
  • 髪:整いすぎていたり、生え際が不明瞭ではない

これらの細部の描写は、まだまだAIが苦手としている部分です。拡大をしてみると不自然さに気づくことがあります。

例えば、最近話題になったローマ法王に関する画像。指の描写が実際の法王と異なります。指の本数や長さ・細さなどの詳細に着目しましょう。

画像

次にこちらのトランプ前大統領の画像。耳や髪、指の描写などに違和感があります。また、警官たちの顔の多くが不自然にボケています。

画像

動画の場合は、これらの4つのポイントだけでなく。次の2点もヒントになります。

  • 表情:話している内容と表情は一致しているか
  • 髪や歯:体の動きとあわせて自然に動いているか

テクノロジーの活用が不可欠

AI技術は日進月歩で進化していくため、そう遠くないうちに人間の目では本物と判別不可能な画像や動画がAIによって制作可能になるでしょう。ファクトチェックする側もテクノロジーを活用しなければ、AIによる無限の偽情報/誤情報の生成に対応することは不可能です。

国際ファクトチェックセンター(IFCN)が年に1回開催するGlobal Factでは、ファクトチェッカーだけでなく、技術者、研究者らも参加して、テクノロジーの開発や活用について議論しています。

怪しい情報を検知し、検証し、必要な人に届ける。この3段階それぞれにおいて技術が発達していくことが、今後の偽情報/誤情報対策の鍵を握っています。

今年のGlobal Factは10回目にして初のアジア開催。6月28-30日に韓国・ソウルで開かれます。私も参加する予定です。

画像

ファクトチェック講座の次回は、オープンソース・インテリジェンス(OSINT)を使った検証について解説します。

講座目次

  1. 意見や推測ではなく事実を検証する
  2. 検証は効果あり 検索やAIにも反映される
  3. 検証の4ステップ 「横読み」で効率的に
  4. 実践的な検索技術 効率的にソースを探す
  5. 画像の検証 GoogleレンズとTinEye
  6. 動画の検証 InVIDとYouTube検索
  7. AIコンテンツの検証 細部を見る
  8. 公開情報こそ重要 OSINT技術を使いこなす
  9. 国際的な標準ルール 信頼性を確保する
JFC ファクトチェック講座 - 日本ファクトチェックセンター (JFC)
ファクトチェックの考え方や技術、便利なツールの活用方法を実践的に学ぶ連載です。

筆者略歴

画像

検証手法や判定基準などに関する解説は、JFCサイトのファクトチェック指針をご参照ください。

「ファクトチェックが役に立った」という方は、シェアやいいねなどで拡散にご協力ください。誤った情報よりも、検証した情報が広がるには、みなさんの力が必要です。

X(Twitter)FacebookYouTubeInstagramなどのフォローもよろしくお願いします。またこちらのQRコード(またはこのリンク)からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を

もっと見る

紅麹とコロナワクチンを結びつける言説、なりすまし対策を求める声、韓国総選挙の情報工作【注目のファクトチェック】

紅麹とコロナワクチンを結びつける言説、なりすまし対策を求める声、韓国総選挙の情報工作【注目のファクトチェック】

✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 2024年4月8-14日のファクトチェック週報です。小林製薬の紅麹を含むサプリメントを摂取した人の中から健康被害が出た問題で、コロナワクチンに結びつける言説が拡散しました。なりすましアカウントや偽広告による詐欺被害の拡大に対し、プラットフォーム事業者に対策を求める声。韓国総選挙でも情報工作の存在を指摘する報道が出ています。 今週のJFC動画 【なぜ騙される?】フェイクニュース時代を生き抜く知識と技術を学ぶJFC講座 第0章 JFCは日本の偽情報の現状と対策について調べた2万人調査に基づいたYouTube講座を開始します。現代のメディア状況を理解する情報リテラシーや偽情報を検証する効果的なファクトチェックの技術やツールを解説します。 本講座の公開は7月。概要はこちらの動画をご確認ください。 ファクトチェック動画:日本の駅なのに中国語の表記が大きい

By 宮本聖二, 古田大輔(Daisuke Furuta)
「岸田首相は渡米していない」「到着の様子は横田基地」は誤り 言説に根拠はなく米国での動静は複数ソースで確認できる【ファクトチェック】

「岸田首相は渡米していない」「到着の様子は横田基地」は誤り 言説に根拠はなく米国での動静は複数ソースで確認できる【ファクトチェック】

岸田首相の訪米、バイデン大統領との首脳会談をめぐって、岸田首相はアメリカに行っていない、首相の乗った政府専用機が着陸したのはワシントンではなく、横田基地だなどの言説が画像とともに拡散しましたが、誤りです。日米両政府も各国のメディアも、岸田首相の訪米と首脳会談を伝えています。 検証対象 2024年4月9日、岸田首相がアメリカを訪問し、バイデン大統領と会談した。この訪米をめぐって、「岸田首相が到着した場所はワシントンではなく、横田基地でした」「コレ日本で撮影してるんじゃない」などの言説が拡散した。 これらの中には490万の閲覧回数を獲得し、1400のリポストがついた投稿もある。 検証過程 日米両政府とも岸田首相の訪米や首脳会談を画像や動画で伝えている。また、世界各国のメディアもニュースで報道している。 日本政府は首相官邸のウェブサイトで、「総理の一日」として4月9日のアンドルーズ空軍基地での到着とバイデン大統領夫妻による歓迎の様子、アーリントン墓地への訪問などの様子を写真で見ることができる。 バイデン大統領の公式のXアカウントは、首脳会談やレセプション

By 宮本聖二
「腎臓学会が発表した紅麹健康被害の病名は新型コロナワクチンの副反応そのもの」は誤り 添付された読売記事は無関係で学会も否定【ファクトチェック】

「腎臓学会が発表した紅麹健康被害の病名は新型コロナワクチンの副反応そのもの」は誤り 添付された読売記事は無関係で学会も否定【ファクトチェック】

小林製薬の紅麹問題で、日本腎臓学会が発表した健康被害の主な症状が新型コロナワクチンの副反応と同一だと主張する言説が読売新聞の記事であるかのように拡散しましたが、誤りです。読売新聞のロゴを使い、実際の報道内容とは異なります。また、日本腎臓学会も否定しています。 検証対象 小林製薬の紅麹を含む健康食品を摂取した後に腎臓の病気などを発症した問題で、2024年4月2日、「腎臓学会は確実に主因は、コロナワクチンだと気づいているね」という投稿がX(旧Twitter)で拡散した。投稿には読売新聞のロゴと記事へのリンクとともに「腎臓学会が発表した紅麹健康被害の病名は、新型コロナワクチンの副反応そのものだった」という文言がある。 この投稿は2024年4月12日時点で26万件以上表示され、6000件以上のリポストを獲得している。 検証過程 添付された読売新聞のリンクは、2024年4月1日に日本腎臓学会が公表した「『紅麹コレステヘルプに関連した腎障害に関する研究』アンケート調査(中間報告)」についての記事だ。 「紅麹健康被害、病名は尿細管の『間質性腎炎』『壊死』など…新た

By 日本ファクトチェックセンター(JFC)
小林製薬社長が「『ワクチン被害のスケープゴートにされた』と発言」は誤り このような発言はしていない【ファクトチェック】

小林製薬社長が「『ワクチン被害のスケープゴートにされた』と発言」は誤り このような発言はしていない【ファクトチェック】

小林製薬の紅麹問題で記者会見した小林章浩社長が「『小林製薬はワクチン被害のスケープゴートにされた』と発言した」とする言説が拡散しましたが、誤りです。会見は動画で公開されていますが、そのような発言はありません。 検証対象 紅麹の成分を含む健康食品を摂取した人が腎臓の病気などを発症した問題で、2024年4月2日、小林製薬の小林社長が、「日本政府と厚労省は、ワクチン被害のスケープゴートとして、我が社を利用し、潰しにかかっています」と発言したとする投稿が拡散した。 この投稿は4月4日時点で、140万回以上の表示回数と1万件以上のリポストを獲得している。「エイプリルフール」というコメントの一方で「応援してます!」「素晴らしい」といった反応もある。賛意を示すコメントの多くはワクチンに批判的な人たちから出ている。 検証過程 検証対象のポストは、投稿の3分後に編集されている。編集後は、「※注意 最後までちゃんと読んでね!」という文字が加わった(下の画像の赤枠で囲まれた部分)。 文末には、「元記事のリンクに真実あり」や「毎年エイプリールフールに騙される」といったハッシ

By 日本ファクトチェックセンター(JFC)