生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】

生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】

日本ファクトチェックセンター(JFC)のファクトチェック講座です。

実践編第4回は、増加傾向にある偽動画の検証についてでした。第5回は公開されている生成AIで作られる画像や動画の検証について解説します。

(本編は動画でご覧ください。この記事は概要をまとめています)

生成AIによる「ディープフェイク」

生成AIで作られた偽情報は「ディープフェイク」と呼ばれます。

例えば、アメリカのトランプ前大統領が「岸田首相はグローバリストの操り人形」と話している動画が拡散しました。これは発言内容を自由に捏造できるツールで作られたディープフェイクです。

一方で、AIを使わずに作られた偽の画像や動画などをディープ(深い)に対応して「シャロー(浅い)フェイク」や「チープ(安い)フェイク」と呼びます。

例として、台湾の地震時に東日本大震災の映像が使われた事例があります。現状では、チープフェイクの方が圧倒的に多いですが、ディープフェイクも増えつつあります。

日本のディープフェイク事例

日本で最初に有名になったディープフェイク事例は、2022年9月の静岡県での事例です。「ドローンで撮影された静岡県の水害」という画像は生成AIで作ったものでした。

ドローンで撮影された静岡県の災害画像? AIディープフェイクの見分け方【ファクトチェック】
台風15号による記録的な大雨に見舞われた静岡県をドローンで撮影したとする画像がTwitter上で拡散しています。しかし、これはAIで作られた画像で、後から投稿者も偽画像だと認めています。AI作成の画像を見抜くポイントの解説とともに検証します。 検証対象 2022年9月26日、Twitterアカウント「くろん」(@kuron_nano)が静岡県の台風15号による被害について、多くの建物が水没している3枚の画像と共に、「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」と投稿した。 引用リツイートには「こんなに酷いんだ」「これスルーて、国葬の為にしてるとしか思えないじゃん!」などと本物の写真だと受け止めるコメントがついたが、同日夕方、投稿者自身が「AIで作った偽の画像だ」と認めた。 その後は「偽情報流すな」「ふつーに騙されてしまった!」「ぱっと見わからん」などのコメントもついた。BuzzFeedJapanのファクトチェック記事も「虚偽画像が拡散」と報じている。 検証過程 画像を検索してみる Googleレンズで1枚目を検索すると、洪水の写真は出て


また、2023年11月には岸田文雄首相が自身の性的な事柄を独白するという動画が拡散しました。日本テレビのロゴもありましたが、日テレとも岸田首相とも関係のない、生成AIによるディープフェイク動画でした。

これらの技術は専門知識なしで誰でも使えます。

岸田首相に関する偽の画像や動画が相次ぎ拡散
岸田文雄首相が映る画像や動画を使った偽情報がSNSなどで数多く広がっています。加工や発言の切り抜きによる悪用で、注意が必要です。 加工された画像 2024年2月12日、岸田首相がアメリカ政府の高官と対談しているかのような画像が投稿され拡散した。13万以上の閲覧数となっている。 この投稿には、「この写真初めて見た ヌーランド(米国務次官)と岸田」とコメントがつき、引用リポストには「この一枚が、すべてを語っています」といった書き込みもある。 この画像は加工されたものだ。元の画像は2022年4月のビクトリア・ヌーランド米国務次官(右から二人目)とブラジルのカルロス・フランサ外務大臣が面会した際の写真で、米国務次官の公式アカウントが投稿している。偽の画像は、右のフランサ氏を岸田首相に加工している。 偽の画像は、二人の間に電話らしきものがなく、岸田首相とヌーランド国務次官の間に、奇妙な線のようなものが写っている。岸田首相の指も不自然だ。 この画像は、NHK も検証し、同様のポイントで偽画像と結論づけている。 加工された動画 2023年11月、岸田首相が正

ディープフェイクは細部を確認する

生成AIで作られた画像や動画は、細部に不自然な点があります。

例えば、静岡の水害の写真では、水面の影と地上の構造物が一致していなかったり、がれきの描写が不明瞭だったり、水面が不自然だったりします。


また、岸田首相の動画では口の部分だけが動き、顔の表情が全く変わりません。スマホの小さな画面だと気がつかなくても、大きめの画面で見ればその不自然さは一目瞭然です。

生成AIの技術は数ヶ月、数週間レベルで向上しており、自然な描写の写真や動画も増えてきています。それでも、拡大して見てみるとおかしな点に気がつきます。

例えば、「ガザで男性が瓦礫から子供達を救出する画像」。プロが撮影した報道写真のようにも見えます。

(画像)男性が子どもたちを瓦礫から救出する画像?【ファクトチェック】
イスラエル・パレスチナでの武力衝突に関連し、「今日のベスト画像」として男性が子どもたちを救出する様子として画像付き言説が拡散しましたが、誤りです。この画像はAIで生成されたものです。 検証対象 10月27日、「今日のベスト画像 2023年10月27日」というキャプションとともに画像が拡散した。この画像は「#Gaza_under_attack」「#Free Palestine」というハッシュタグと共にFacebook上で8万回以上共有され、在フランス中国大使館のX(旧Twitter)アカウントも発信した。 検証過程 画像の詳細をよく見ていく。子どもの足の指の形(オレンジ丸)、男性の方からぶら下がる子どもの腕の形(赤丸)、男性の脇の形(矢印)など、AIが生成する画像に特有な細部の不自然な描写が多数確認できる。 この画像を元にGoogleで検索をしたが、InstagramやTikTokなど複数のSNSで拡散されている一方、現地で紛争を取材するメディアによる撮影画像とは一致しなかった。 AFPの記事も、偽画像解析の専門家の分析を引用して「AIの兆候が見られる

しかし、拡大して見てみると、手や足の描写に違和感を持ちます。

技術の進化と検証の限界

生成AIの開発で世界をリードするOpenAIの新しい技術「Sora」は、「夜の東京を歩くおしゃれな女性」などの簡単なテキスト入力だけで驚くほど精巧な動画が作れます。

スマホの小さな画面で見たときに、すぐにディープフェイクだと見抜くことは困難でしょう。

背景の看板の文字が意味不明であるなど、細部の描写にはまだ生成AI特有の限界があります。

しかし、人間の目による検証が不可能なディープフェイクは今後、増えていくでしょう。

精巧なディープフェイクへの対応方法

では、人間の目で検証できないレベルのディープフェイクにどう対応するべきか。

クリティカル・シンキングで吟味する

まず、画像や動画や音声が本物とは限らないと認識することが重要です。常に吟味する。その人物がそういう発言をするのか。

例えば、岸田首相がテレビで突然性的な発言をするはずはありません。人気モデルのベラ・ハディッドさんがイスラエルを支持する発言をしたというディープフェイクもありましたが、これも彼女がパレスチナの平和を訴える活動をしていたことを知っていれば、不自然さに気づくはずです。

主要メディアを確認する

もう一つ有効な方法は、主要なメディアがそのニュースを報じているかを確認することです。著名人の言動や大災害であれば、NHKやCNNやBBCなど世界の主要メディアが報じているはずです。

匿名のSNSや無名のニュースサイトだけが取り上げている情報は、これまでも多数の誤りがありましたし、信頼性は低いです。

技術やルールによる対策

技術には技術で対抗する方法もあります。AIで生成されたコンテンツをAIで判定する技術の開発が進んでおり、その精度は向上しています。また、AIで生成したコンテンツにラベルを貼るなどのルール設定の議論も進んでいます。

しかし、これらの対策だけではすべての被害を防ぐことはできません。泥棒を取り締まる法律があっても家に鍵をかけるように、自分を守るノウハウを身につけることが重要です。

次回はOSINT

次回は、オープンソースの情報を使った検証方法=OSINTについて解説します。これにより、さらに深く広く情報の真偽を見極める力を養うことができます。

アンケートにご協力を

動画を見た方は、ぜひ簡単なアンケートにご協力ください。 https://forms.gle/QdVa9A5v3RDnfBW59


判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら

もっと見る

自民党・小泉進次郎氏が「消費税15%待った無し」と発言? 誤情報の再拡散【ファクトチェック】

自民党・小泉進次郎氏が「消費税15%待った無し」と発言? 誤情報の再拡散【ファクトチェック】

自民党総裁選に立候補を表明した小泉進次郎農林水産相が「消費税から逃げるな」「15%待った無し」などと発言したかのような動画が拡散しましたが、誤りです。2017年の記者会見の映像を恣意的に切り貼りしたもので、繰り返し拡散しています。元動画で、小泉氏はそのような発言をしていません。 検証対象 2025年9月8日、小泉氏が「原口さんにお願いしたいのは、消費税から逃げるなと。15%待った無しです」と発言したかのような動画がXで拡散した。 投稿は9月16日現在、371件のリポストと、9.6万回の表示を獲得している。 投稿には「やはり、馬鹿だ。何言っているか理解不能」「本当に『自民党なんていらない』」や「切り取りに決まってるだろ」などの指摘もある。 検証過程 誤情報の再拡散 日本ファクトチェックセンター(JFC)は2025年5月にも「小泉進次郎氏が消費増税を主張?」という同様の投稿を検証し、「誤り」と判定している(JFC.”小泉進次郎氏が消費増税を主張?恣意的な切り張り【ファクトチェック】”)。 動画は短いカットの切り貼り 拡散した動画は計45秒で、短

By 根津 綾子(Ayako Nezu)
メガソーラーにまつわる情報、すべて「誤り」とは言えない理由/JFC検証など11本【今週のファクトチェック】

メガソーラーにまつわる情報、すべて「誤り」とは言えない理由/JFC検証など11本【今週のファクトチェック】

猛暑が続いた今年の夏は、太陽光発電に関わる誤情報が大量に拡散しました。「メガソーラーが温暖化の原因だ」というような投稿です。日本ファクトチェックセンター(JFC)は専門家らに取材して、すでにこれらの投稿が誤りであると検証しています。 一方で難しいのが「水害の原因だ」というような投稿です。被害の発生地と明らかに異なっている場合は「誤り」と言えますが、災害発生直後で、原因がはっきりしないことも多く、そのような場合は「根拠不明」、または、さらなる調査を待つ必要があります。 こういった情報は、太陽光発電など再生可能エネルギーに否定的な人たちの間で拡散する傾向がありますが、生態系の破壊を懸念する人たちの間でも広がります。メガソーラーが環境に与える影響については、慎重な検討が必要でしょう。 今週の解説記事は、ファクトチェックにとどまらず、メガソーラーが抱えるそういった課題も紹介しています。(古田大輔) ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターで

By 日本ファクトチェックセンター(JFC)
日本国籍じゃないと党員になれないと明記しているのは参政党だけ? 他政党にも同様の規定【ファクトチェック】

日本国籍じゃないと党員になれないと明記しているのは参政党だけ? 他政党にも同様の規定【ファクトチェック】

党員や構成員が「日本国籍を有する者のみ」と明記している日本の政党は参政党だけという投稿が拡散しましたが、誤りです。他政党にも同様の規定があり、公式サイトに掲載されています。 検証対象 2025年9月9日、「日本の政党で党員や構成メンバーが『日本国籍を有する者のみ』と明記している政党は『参政党のみ』」という投稿がXで拡散した。 9月12日現在、投稿は3800回以上リポストされ、表示は17.3万件を超える。 投稿には「それが1番大事です」「他の党は候補者が帰化一世でも平気で国会議員にしてしまう」や「帰化人も日本国籍を有します」という指摘もある。 検証過程 参政党公式サイトの「入党資格」の欄には、「日本国籍を有する方」という記載がある。これは拡散した投稿が指摘している通りだ(参政党”党員規約および利用規約”)。 他の政党はどうか。日本ファクトチェックセンター(JFC)は、他の政党の党員資格を調べた。 自民党公式サイトの「入党」ページには入党資格として「満18歳以上で日本国籍を有する方」と書いてある(自民党”入党”)。 立憲民主党公式サイトの党員申し込

By 根津 綾子(Ayako Nezu)
自民・茂木氏「日本を韓国のような多様性のある多民族社会に変える事が必要!外国人に地方参政権を与える」と発言? 過去の発言を改変【ファクトチェック】

自民・茂木氏「日本を韓国のような多様性のある多民族社会に変える事が必要!外国人に地方参政権を与える」と発言? 過去の発言を改変【ファクトチェック】

自民党総裁選に立候補を表明している茂木敏充衆院議員が「日本を韓国のような多様性のある多民族社会に変える事が必要!外国人に地方参政権を与える」と発言したという情報が拡散しましたが、不正確です。2000年に「定住外国人に地方参政権を与える意見には賛成」と発信していますが「韓国のような多様性のある多民族社会」という発言はありません。 検証対象 2025年9月9日、「自民党総裁選へ出馬表明した茂木敏充『日本を韓国のような多様性のある多民族社会に変える事が必要!外国人に地方参政権を与える!』←なんで自民党ってこんなカスしかいないの?」という投稿が拡散した。 9月12日現在、この投稿は9980件以上リポストされ、表示回数は171万回を超える。投稿について「茂木終了」「国会議員の帰化人6割ってのもデマじゃないかも」というコメントの一方で「ハム速の付け足し」という指摘もある。 検証過程 引用されている発言は 検証対象のアカウントは、まとめサイト「ハムスター速報」の記事だ。記事は2000年7月13日に茂木氏の公式サイトに掲載された「e-デモクラシー ~若手政治家の気

By 木山竣策

ファクトチェック講座

JFCファクトチェック講師養成講座 申込はこちら

JFCファクトチェック講師養成講座 申込はこちら

日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は9月20日(土)午後2時~3時15分で、お申し込みはこちら。 https://jfcyousei0920.peatix.com/view 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的にどの

By 古田大輔(Daisuke Furuta)
理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

By 古田大輔(Daisuke Furuta)
JFCファクトチェッカー認定試験  教材と申し込みはこちら

JFCファクトチェッカー認定試験  教材と申し込みはこちら

日本ファクトチェックセンター(JFC)はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。 拡散する偽・誤情報から身を守るために 偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した2万人を対象とする調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。 自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。 だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座(YouTube, 記事)は、2万人調査を元に偽・誤情報の拡散経路や

By 日本ファクトチェックセンター(JFC)