フェイクニュースと生成AI 識別不可能な脅威と海外からの影響工作【JFCファクトチェック講座 理論編10】

フェイクニュースと生成AI 識別不可能な脅威と海外からの影響工作【JFCファクトチェック講座 理論編10】

日本ファクトチェックセンター(JFC)のファクトチェック講座です。

理論編第9回はオンライン詐欺とその対策についてでした。第10回は影響力を増す生成AIと海外からの情報工作について説明します。

(本編は動画でご覧ください。この記事は概要をまとめています)

現実に見える動画が生成AIで作られる

OpenAIの新技術「Sora」で作成した、夜の東京を歩く女性の映像。一見して、現実の映像と区別がつかないほどの精度です。

ただ、背景をよく見ると看板に書かれている文字が意味不明です。生成AIにはこのように細部の描写が苦手という弱点がありますが、技術の進化が加速していることから、いずれは人間の目では判別不可能になるでしょう。

これらの技術は政治家の発言の捏造や詐欺に悪用されています。誰でも一瞬で精巧な嘘を大量に作れるようになったことで、検証はますます困難になりました。

日本でもすでに広がる生成AIによる偽情報

日本で最初に有名になった事例は2022年9月26日、X(旧Twitter)に投稿された写真でした。「ドローンで撮影された静岡県の水害」と書かれていましたが、実際は生成AIで作った画像でした。

ドローンで撮影された静岡県の災害画像? AIディープフェイクの見分け方【ファクトチェック】
台風15号による記録的な大雨に見舞われた静岡県をドローンで撮影したとする画像がTwitter上で拡散しています。しかし、これはAIで作られた画像で、後から投稿者も偽画像だと認めています。AI作成の画像を見抜くポイントの解説とともに検証します。 検証対象 2022年9月26日、Twitterアカウント「くろん」(@kuron_nano)が静岡県の台風15号による被害について、多くの建物が水没している3枚の画像と共に、「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」と投稿した。 引用リツイートには「こんなに酷いんだ」「これスルーて、国葬の為にしてるとしか思えないじゃん!」などと本物の写真だと受け止めるコメントがついたが、同日夕方、投稿者自身が「AIで作った偽の画像だ」と認めた。 その後は「偽情報流すな」「ふつーに騙されてしまった!」「ぱっと見わからん」などのコメントもついた。BuzzFeedJapanのファクトチェック記事も「虚偽画像が拡散」と報じている。 検証過程 画像を検索してみる Googleレンズで1枚目を検索すると、洪水の写真は出て

また、2023年11月には岸田文雄首相が卑猥な内容を話す動画がニコニコ動画に投稿されました。日テレNEWS24のロゴがついていましたが、これも生成AIで画像と音声を作ったものでした。

岸田首相に関する偽の画像や動画が相次ぎ拡散
岸田文雄首相が映る画像や動画を使った偽情報がSNSなどで数多く広がっています。加工や発言の切り抜きによる悪用で、注意が必要です。 加工された画像 2024年2月12日、岸田首相がアメリカ政府の高官と対談しているかのような画像が投稿され拡散した。13万以上の閲覧数となっている。 この投稿には、「この写真初めて見た ヌーランド(米国務次官)と岸田」とコメントがつき、引用リポストには「この一枚が、すべてを語っています」といった書き込みもある。 この画像は加工されたものだ。元の画像は2022年4月のビクトリア・ヌーランド米国務次官(右から二人目)とブラジルのカルロス・フランサ外務大臣が面会した際の写真で、米国務次官の公式アカウントが投稿している。偽の画像は、右のフランサ氏を岸田首相に加工している。 偽の画像は、二人の間に電話らしきものがなく、岸田首相とヌーランド国務次官の間に、奇妙な線のようなものが写っている。岸田首相の指も不自然だ。 この画像は、NHK も検証し、同様のポイントで偽画像と結論づけている。 加工された動画 2023年11月、岸田首相が正

進化する生成AIにどう対応するか

2022~3年ごろの生成AIによる画像や動画は、細部の描写や口と歯の動きなどを見れば、違和感を持てるレベルでしたが、Soraで見たように技術は進化しています。

ユーザーである我々一人一人が、この映像/画像/音声/文字情報はAI生成かもしれないと考える注意深さ=クリティカルシンキングを実践する必要があります。

そして、大量の生成AIによる情報に対して意は、検証する側もAIを活用したり、AI生成のコンテンツには目印をつけるなどのルール設定も必要になるでしょう。

国家レベルの影響工作

もう一つ注目されるのが、国家レベルの影響工作、情報工作です。

2024年1月、台湾総統選挙が実施されました。台湾AIラボがこの期間にTikTokを分析してみたところ、中国に関連する主だったコンテンツの62%が中国による台湾統一を肯定するような、中国に対して好意的な内容で、逆に、台湾に言及するコンテンツは95%が与党・民進党が台湾を破滅させるというような台湾に否定的な内容だったという調査結果を公開しました。

私(古田)は台湾で偽情報対策を担当しているローピンチェン大臣にインタビューしました。ロー大臣は「問題は偽情報だけではない。情報工作全体が民主主義に影響を与える脅威である」と語りました。

個別の偽・誤情報だけでなく、様々な情報がどう語られているか、そのナラティブが民主主義に影響を与えている、ということです。

中国からの偽情報対策、TikTokの不自然なデータ 台湾大臣「選挙に影響」
中国からの情報工作に神経を尖らせる台湾では、ファクトチェック、メディアリテラシー、法的なルール設定など包括的な誤情報/偽情報対策に取り組む。日本ファクトチェックセンター(JFC)は、政府で偽情報対策を包括的に担当する羅秉成(ロウ・ピンチェン)無任所大臣に話を聞いた。 選挙への偽情報の影響「多くは中国から」 ──台湾総統選は世界的な関心を集めました。特に偽情報の拡散と中国からの影響への注目が高かったですが、実際にはどのような影響があったのでしょうか。 「明確な指標を示すのは難しいが、私たちは偽情報が選挙にある程度影響したと分析しています。その多くは中国からです」 ──具体的なデータはありますか。 「様々なデータがありますが、例えば、(民間研究機関の)台湾AIラボがTikTokについて分析したところ、中国に関連して拡散した主なコンテンツの62%が中国に対して好意的で中国による台湾統一を肯定する内容でした。逆に台湾に言及するコンテンツの95%が否定的で、民進党が台湾を破滅させるなどのものでした。次期総統に選ばれた民進党の賴清徳(ライチントー)氏に対しては67%

日本でも福島第一原発をめぐって影響が

影響工作は対岸の火事ではありません。

2023年8月に始まった福島第一原発からの処理水の海洋放出は世界的な注目を集め、国内外で賛否の声が広がりました。こういった状況では、必ずといっていいほど偽・誤情報が拡散します。JFCはそれらをまとめて検証してきました。

福島第一原発の処理水と汚染水の違いは何?海洋放出は危険?【ファクトチェックまとめ】
日本政府が夏ごろに始める方針を示している福島第一原発の処理水の海洋放出に関して、国内外で不確かな情報が拡散しています。処理水とは何か。環境への影響は。ファクトチェックのポイントをまとめました。 ※新たな誤情報の検証を更新していきます(最終更新2023年12月13日)。 参照資料は、各省庁や東京電力から、また、2023年7月4日に公開された国際原子力機関(IAEA)の「福島第一原子力発電所ALPS処理水の安全審査に関する包括的報告書(以下、IAEA報告書)」などです。 処理水か汚染水か 2011年3月11日の東日本大震災による津波で、福島第一原発ではウラン燃料を冷やすことができなくなる事故が起きました。燃料は格納容器内で溶け、今も温度を下げるための冷却水をかけ続けています。使用された水は放射性物質で汚染され、雨水などと混ざって毎日約90トンずつ増えています。これを「汚染水」と呼びます。 汚染水は原発の施設内に並ぶ1000基を超える巨大タンクに貯められますが、2024年の前半にはタンク容量に限界が来る見込みです。日本政府は、トリチウムを除く62種類の放射性物

その中で着目したのは、かなりの数の言説が最初に中国語で拡散し、その後、日本語に翻訳されたり、引用されたりして、国内でも拡散していることです。

イギリスを拠点に偽情報対策に取り組むLogically.という団体が出した2023年のレポートに「日本の処理された核排水の放出を標的にした中国による組織的キャンペーン」というものがあります。

2023年1-8月にかけての調査で、中国共産党系のメディアが処理水放出に批判的な記事を英語や日本語で公開したり、Facebookに多国語で有料広告を掲載したり、中国のSNS「微博」で処理水に関して批判的なハッシュタグが次々とトレンド入りしたりした状況を分析したものです。

日本はどう対応するのか

こうした影響工作に対して、日本政府は2022年12月に国家安全保障戦略を閣議決定し、「外国による偽情報などに対する情報の集約・分析」「対外発信の強化」「政府外の機関との連携の強化」を掲げています。

しかし、「外国による偽情報」は定義が難しい概念です。福島第一原発の処理水の問題でもそうであるように、元々は海外からの発信であっても、日本国内のアカウントが拡散していたり、まとめ記事になっていたりする事例もあります。

また、偽・誤情報の法的規制の強化を議論する際には、誰が情報の正誤を決めるのかが問題になります。政府が乗り出してくれば、言論の自由を脅かす恐れもあります。

SNSプラットフォームに偽情報を管理する法的責任を負わせようと議論もありますが、同じように誰がどうやって正誤を決めるのかという問題が残ります。

意見は異なっても事実の共有は必要

福島第一原発の処理水放出をめぐっては「処理水は浄化処理されているし、環境への影響はモニタリングされているから大丈夫だ」という人もいれば、「国や東電によるモニタリングのデータは信用ならない」という人もいます。

意見は人それぞれあって当然ですが、前提として両者が共有できる事実関係がほとんどないとしたら、議論は成立しません。

極性化が進む危険性

理論編3のアルゴリズムの回でも説明したように、真偽が不確かな大量のネット情報の中で、確証バイアスやフィルターバブルやエコーチェンバーが作用すると、個々人の意見が強化・先鋭化していく可能性があります。

そういった人たちが増えていき、対立する意見A、意見Bの分断が深まって2極に別れていくような状態を「極性化」と呼びます。

こうなってしまうと、事実の共有が難しくなります。

デジタル時代の市民教育へ

このような危機感は世界的に共有されています。2024年のG20ではサンパウロでオンライン上の誤情報やヘイトスピーチに対抗する戦略について議論がありました。

ユネスコは情報メディアリテラシー教育が、デジタル・シティズンシップ教育の一環であると訴えています。偽・誤情報の蔓延という危機に対して、我々一人一人が民主主義社会を守り育てるために必要な知識を身につけること。これがデジタル時代のシティズン=市民として必要とされています。

次回からは実践編へ

理論編ではファクトチェックの意義や重要性、認知心理学や情報生態系、社会の分断を深めるナラティブの存在などについて解説しました。これらの知識はデジタル時代において非常に役立つものです。

次回からは、具体的な検証技術について解説するファクトチェックの実践編を開始します。

アンケートにご協力を

動画を見た方は、ぜひ簡単なアンケートにご協力ください。 https://forms.gle/QdVa9A5v3RDnfBW59


判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。

もっと見る

広島市の外国人462世帯への生活保護は「違憲」? 最高裁は「行政措置により事実上の保護の対象となり得る」【ファクトチェック】

広島市の外国人462世帯への生活保護は「違憲」? 最高裁は「行政措置により事実上の保護の対象となり得る」【ファクトチェック】

広島市が外国人の462世帯に生活保護費を支給していることについて、「最高裁の判決を無視した違憲行為だ」とする投稿がXで拡散しましたが、誤りです。最高裁は過去に「外国人は、行政庁の通達等に基づく行政措置により事実上の保護の対象となり得る」という判決を出しています。 検証対象 拡散した投稿 2026年10月26日、「広島市の役所が外国人に対して生活保護費を支給している事が判明。なんと462世帯の外国人に支給しているという。この件について問い合わせた人のポストがあったが、市役所は国からの通知を基に支給している、などと言い訳をしたとの事。実際には広島市役所自立支援課の判断らしく、これが本当なら最高裁の判決を無視した違憲行為だ。皆で抗議して外国人世帯への生活保護支給をやめさせるべきだ。」という投稿がXで拡散した。 広島市の担当課から届いたとするメールの画像と、別のアカウントの投稿のスクリーンショットが添付されており、担当課への抗議を呼びかけている。 検証する理由 この投稿は1万件以上リポストされ、表示回数は34万回を超えている。投稿には「最高裁の判決があるの

By 木山竣策(Shunsaku Kiyama)
SNS上で広がる詐欺、自衛しかない?/JFC記事・動画や関連記事【今週のファクトチェック】

SNS上で広がる詐欺、自衛しかない?/JFC記事・動画や関連記事【今週のファクトチェック】

SNS型投資詐欺をめぐって、自身を騙った詐欺広告を掲載したMetaを訴えた実業家の前澤友作氏が敗訴しました。判決はMetaが「プラットフォームを提供したに過ぎない」と判断し、広告審査や掲載停止を実施していることも考慮しました。しかし、詐欺広告が蔓延しているのは事実です。プラットフォームが対策を強化しなければ、被害を減らすには自衛するしかありません。詐欺の見分け方に関する記事は「詐欺注意」で配信しているので参考にしてください。 今週のファクトチェックまとめです。 ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 今週のお知らせ 日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は11月29日(日)午後4時~5時30分

By 日本ファクトチェックセンター(JFC)
千葉県までミサイルの飛来に備え出したのは「相当危ない」? 2022年以降、定期的に投稿【ファクトチェック】

千葉県までミサイルの飛来に備え出したのは「相当危ない」? 2022年以降、定期的に投稿【ファクトチェック】

千葉県が弾道ミサイルの飛来に備えて避難施設を指定しているという投稿を引用して、「つまり相当危ない」と主張する投稿が拡散しましたが、ミスリードで不正確です。県公式アカウントによる避難施設の告知は、2022年以降定期的に行われており、新しいものではありません。 検証対象 拡散した言説 2026年10月31日、「千葉県までこんなことを投稿するようになってしまった。あの千葉がですよ。つまり相当危ないということですよ」という投稿がXで拡散した。 検証する理由 11月13日現在、投稿は1100回以上リポストされ、表示は99.5万件を超える。 投稿には「自衛隊基地も多いですしね 千葉は」「最強部隊もありますしねー 狙われる確率は十二分にありますねえ」など、同調する反応が多いため検証する。 検証過程 拡散した投稿の内容は 2026年10月22日、イギリス政府が緊急事態に備えて、各家庭で最低3日分の生活物資を備蓄するように呼びかけた(外務省海外安全ホームページ”【注意喚起】緊急事態に備えた水や食料品などの備蓄について(英政府の発表)”)。 これ以降、SN

By 根津 綾子(Ayako Nezu)
総務省をかたる国勢調査の偽メールが相次ぐ 繰り返される「なりすまし」【詐欺注意】

総務省をかたる国勢調査の偽メールが相次ぐ 繰り返される「なりすまし」【詐欺注意】

総務省統計局を名乗って「国勢調査ご協力のお願い」などの内容で、別のサイトへ誘導しようとする不審なメールが確認されています。総務省は11月5日にHPで「このようなメールは総務省とは無関係ですので、決して回答を行わないよう、注意してください」と呼びかけています。 直近の国勢調査は2025年10月に実施されたが、2026年に「保存中の国勢調査データが失われる恐れがあります」「国勢調査員 ご訪問の予定について」など、国勢調査や総務省統計局を騙るメールが届いたというXの投稿が複数確認されている(例1、例2)。 日本ファクトチェックセンター編集部員の個人用メールアドレスにも、同様のメールが届いた。 メールの内容は 送信元は「総務省統計局」と記されており、メール本文には総務省統計局のロゴも使われている。 しかし、送信元アドレスは「mail@dnhopk.com」で、政府系で使われる「〜go.jp」とは異なる。総務省統計局が送信した他のメールのアドレスを確認すると「stat_m-news@stat.soumu.go.jp」だった(総務省”統計メールニュース・サービス”)

By リサーチ チーム

ファクトチェック講座

JFCファクトチェック講師養成講座 申込はこちら

JFCファクトチェック講師養成講座 申込はこちら

日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は11月29日(日)午後4時~5時30分で、お申し込みはこちら。 日本ファクトチェックセンター(JFC) ファクトチェック講師養成講座 11月29日(日)開催分日本ファクトチェックセンター(JFC)による講師養成講座です。 講師養成講座(オンラインで90分)を受講いただいた後、修了課題を提出された方には、教室や職場などで利用可能な教材の提... powered by Peatix : More than a ticket.Peatix 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤っ

By 古田大輔(Daisuke Furuta)
理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

By 古田大輔(Daisuke Furuta)
JFCファクトチェッカー認定試験

JFCファクトチェッカー認定試験

日本ファクトチェックセンター(JFC)はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。 拡散する偽・誤情報から身を守るために 偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。 自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。 だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座(YouTube, 記事)は、2万人調査を元に偽・誤情報の拡散経路や騙されない人の行動

By 日本ファクトチェックセンター(JFC)