フェイクニュースと生成AI 識別不可能な脅威と海外からの影響工作【JFCファクトチェック講座 理論編10】
日本ファクトチェックセンター（JFC）のファクトチェック講座です。
理論編第9回はオンライン詐欺とその対策についてでした。第10回は影響力を増す生成AIと海外からの情報工作について説明します。
(本編は動画でご覧ください。この記事は概要をまとめています)
現実に見える動画が生成AIで作られる
OpenAIの新技術「Sora」で作成した、夜の東京を歩く女性の映像。一見して、現実の映像と区別がつかないほどの精度です。
ただ、背景をよく見ると看板に書かれている文字が意味不明です。生成AIにはこのように細部の描写が苦手という弱点がありますが、技術の進化が加速していることから、いずれは人間の目では判別不可能になるでしょう。
これらの技術は政治家の発言の捏造や詐欺に悪用されています。誰でも一瞬で精巧な嘘を大量に作れるようになったことで、検証はますます困難になりました。
日本でもすでに広がる生成AIによる偽情報
日本で最初に有名になった事例は2022年9月26日、X(旧Twitter)に投稿された写真でした。「ドローンで撮影された静岡県の水害」と書かれていましたが、実際は生成AIで作った画像でした。
日本ファクトチェックセンター(JFC)
また、2023年11月には岸田文雄首相が卑猥な内容を話す動画がニコニコ動画に投稿されました。日テレNEWS24のロゴがついていましたが、これも生成AIで画像と音声を作ったものでした。
日本ファクトチェックセンター(JFC)
進化する生成AIにどう対応するか
2022~3年ごろの生成AIによる画像や動画は、細部の描写や口と歯の動きなどを見れば、違和感を持てるレベルでしたが、Soraで見たように技術は進化しています。
ユーザーである我々一人一人が、この映像/画像/音声/文字情報はAI生成かもしれないと考える注意深さ=クリティカルシンキングを実践する必要があります。
そして、大量の生成AIによる情報に対して意は、検証する側もAIを活用したり、AI生成のコンテンツには目印をつけるなどのルール設定も必要になるでしょう。
国家レベルの影響工作
もう一つ注目されるのが、国家レベルの影響工作、情報工作です。
2024年1月、台湾総統選挙が実施されました。台湾AIラボがこの期間にTikTokを分析してみたところ、中国に関連する主だったコンテンツの62%が中国による台湾統一を肯定するような、中国に対して好意的な内容で、逆に、台湾に言及するコンテンツは95%が与党・民進党が台湾を破滅させるというような台湾に否定的な内容だったという調査結果を公開しました。
私（古田）は台湾で偽情報対策を担当しているローピンチェン大臣にインタビューしました。ロー大臣は「問題は偽情報だけではない。情報工作全体が民主主義に影響を与える脅威である」と語りました。
個別の偽・誤情報だけでなく、様々な情報がどう語られているか、そのナラティブが民主主義に影響を与えている、ということです。
古田大輔(Daisuke Furuta)
日本でも福島第一原発をめぐって影響が
影響工作は対岸の火事ではありません。
2023年8月に始まった福島第一原発からの処理水の海洋放出は世界的な注目を集め、国内外で賛否の声が広がりました。こういった状況では、必ずといっていいほど偽・誤情報が拡散します。JFCはそれらをまとめて検証してきました。
古田大輔(Daisuke Furuta)
その中で着目したのは、かなりの数の言説が最初に中国語で拡散し、その後、日本語に翻訳されたり、引用されたりして、国内でも拡散していることです。
イギリスを拠点に偽情報対策に取り組むLogically.という団体が出した2023年のレポートに「日本の処理された核排水の放出を標的にした中国による組織的キャンペーン」というものがあります。
2023年1-8月にかけての調査で、中国共産党系のメディアが処理水放出に批判的な記事を英語や日本語で公開したり、Facebookに多国語で有料広告を掲載したり、中国のSNS「微博」で処理水に関して批判的なハッシュタグが次々とトレンド入りしたりした状況を分析したものです。
日本はどう対応するのか
こうした影響工作に対して、日本政府は2022年12月に国家安全保障戦略を閣議決定し、「外国による偽情報などに対する情報の集約・分析」「対外発信の強化」「政府外の機関との連携の強化」を掲げています。
しかし、「外国による偽情報」は定義が難しい概念です。福島第一原発の処理水の問題でもそうであるように、元々は海外からの発信であっても、日本国内のアカウントが拡散していたり、まとめ記事になっていたりする事例もあります。
また、偽・誤情報の法的規制の強化を議論する際には、誰が情報の正誤を決めるのかが問題になります。政府が乗り出してくれば、言論の自由を脅かす恐れもあります。
SNSプラットフォームに偽情報を管理する法的責任を負わせようと議論もありますが、同じように誰がどうやって正誤を決めるのかという問題が残ります。
意見は異なっても事実の共有は必要
福島第一原発の処理水放出をめぐっては「処理水は浄化処理されているし、環境への影響はモニタリングされているから大丈夫だ」という人もいれば、「国や東電によるモニタリングのデータは信用ならない」という人もいます。
意見は人それぞれあって当然ですが、前提として両者が共有できる事実関係がほとんどないとしたら、議論は成立しません。
極性化が進む危険性
理論編3のアルゴリズムの回でも説明したように、真偽が不確かな大量のネット情報の中で、確証バイアスやフィルターバブルやエコーチェンバーが作用すると、個々人の意見が強化・先鋭化していく可能性があります。
そういった人たちが増えていき、対立する意見A、意見Bの分断が深まって2極に別れていくような状態を「極性化」と呼びます。
こうなってしまうと、事実の共有が難しくなります。
デジタル時代の市民教育へ
このような危機感は世界的に共有されています。2024年のG20ではサンパウロでオンライン上の誤情報やヘイトスピーチに対抗する戦略について議論がありました。
ユネスコは情報メディアリテラシー教育が、デジタル・シティズンシップ教育の一環であると訴えています。偽・誤情報の蔓延という危機に対して、我々一人一人が民主主義社会を守り育てるために必要な知識を身につけること。これがデジタル時代のシティズン＝市民として必要とされています。
次回からは実践編へ
理論編ではファクトチェックの意義や重要性、認知心理学や情報生態系、社会の分断を深めるナラティブの存在などについて解説しました。これらの知識はデジタル時代において非常に役立つものです。
次回からは、具体的な検証技術について解説するファクトチェックの実践編を開始します。
アンケートにご協力を
動画を見た方は、ぜひ簡単なアンケートにご協力ください。 https://forms.gle/QdVa9A5v3RDnfBW59
検証手法や判定基準については、JFCファクトチェック指針をご参照ください。検証記事を広げるため、SNSでの拡散にご協力ください。X、Facebook、YouTube、Instagramのフォローもお願いします。毎週、ファクトチェック情報をまとめて届けるニュースレター登録はこちらからどうぞ。
また、こちらのQRコード（またはこのリンク）からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を。
