AIの嘘に対抗できるのはAIだけ 「ネットのクソ化」と戦う世界のファクトチェッカーの秘策は
世界のファクトチェックをリードする国際ファクトチェックネットワーク（IFCN）の第11回年次総会「グローバル・ファクト11(GF11)」が6月26-28日、ボスニア・ヘルツェゴビナの首都サラエボで開かれました。生成AIの進化によって、世界中でますます拡散する偽・誤情報とどう戦うか。様々なAIツールやその活用法の報告に注目が集まりました。
参加者は89カ国303組織から会場520人、オンライン98人。そのうちテック企業からは5社45人が参加しました（2024年7月13日追記）。
「インターネットのクソ化」が進む世界
「インターネットのクソ化は全力で進行中です。今年1月の時点で、ネットの57.1％を低品質なコンテンツが占めます」
2021年にノーベル平和賞を受賞したフィリピンのジャーナリスト、マリア・レッサ氏はメインスピーカーとして初日に登壇し、オンラインプラットフォームが利益を追求する中でコンテンツが劣化していく「クソ化（Enshittification）」に言及した(発言全文はこちら)。ジャーナリストCory Doctorowの言葉であり、低品質コンテンツの大量拡散は生成AIと機械翻訳によって加速している。
「フェイクニュース」や「ファクトチェック」は、2016年のアメリカ大統領選をきっかけに世界で注目されるようになった。しかし、新型コロナウイルスやロシアによるウクライナ侵略などを経て、その実情と対策は数ヶ月単位で急激に変化し、事態は悪化している。背景にあるのが技術革新だ。
一昨年ごろから特に注目を集めているのが生成AI。短時間に大量のテキストや画像や音声や動画を生み出せる。その性能は加速度的に向上し、人の目では検証が困難な偽情報を多言語で生産できる。信頼性が全くない「クソ」みたいなコンテンツが溢れるようになった。
バイアスによってそれでも受け入れてしまう
低品質で信頼性のない誤った情報でも、人は「正しい」と受け止めがちだ。JFCと国際大学グロコムの2万人調査では、実際に日本で拡散した15の偽情報・誤情報について51.5%の人が「正しいと思う」と回答した。
人には情報の正確性ではなく、自分にとって心地よい情報かどうかで判断してしまう認知バイアスがある。しかも、その傾向はSNSプラットフォームのアルゴリズムによるフィルターバブルやエコーチェンバーで強化されてしまう。
背景にプラットフォームのビジネスモデルがある。ユーザーを長時間そのプラットフォームに滞在させ、たくさんの広告を見せることで莫大な売上を得ている。そのためにユーザー個々人の趣味嗜好に合わせたパーソナライズ（個人化）を進める。人の関心（アテンション）を集めることが経済的利益につながるアテンション・エコノミーだ。
レッサ氏は「技術が進化しすぎて、パーソナライズはこの部屋の全員が自分だけのパーソナライズされた現実を持てるというところまで来ました。自分の信念体系や認知バイアスが強化される現実です。自分にパーソナライズされた現実の中で事実を聞くことはありません」と警鐘を鳴らした。
問題としてのAI、対策としてのAI
技術革新とプラットフォームのビジネスモデルが情報生態系の悪化に拍車をかけるという根源的な問題に、ファクトチェッカーはどう対峙するのか。GF11では全体で60あったメインセッションや分科会のうち、16がAIや技術に関するもので、それ以外のテーマの議論でも、多くがAIに言及していた。
筆者（古田）は2022年から3年連続でGFに参加している。テクノロジーに関する議論は年々増え、今年は特にAI活用の話題が急増した。インドでのディープフェイク分析について報告した登壇者はGoogle出身。技術畑の参加者も増えている。
「AIとファクトチェック」「AIによる音声と画像の検証」といったAIを検証に直接的に活用する内容や、AIによる翻訳や動画作成でファクトチェックコンテンツを広げる具体的な手法の紹介、「AIは我々から盗むのか学ぶのか」といったAIの問題点を踏まえた議論もあった。
共通しているのは、AIなしに偽・誤情報対策は不可能という認識だが、AIにも得意・不得意な分野がある。AIに関する初歩的な議論に止まっていたこれまでのGFと異なり、サラエボではAIの強みを活かす実用的なツールや実践的な活用法の紹介が目立った。
例えば、AIで作られた偽音声をAIで検証するツールは、これまでにも存在したが精度が低かった。2023年12月にシンガポールで開かれたアジア太平洋地域のファクトチェッカーのイベントTrusted Media Summitでは「検証は非常に難しい」と議論していたが、半年後のGF11では精度が非常に高い新ツールが出てきた。
偽音声は日本ではまだそれほど注目されていないが、実は偽動画よりも検証が難しいことでファクトチェッカーを悩ませていた(それが知られると偽音声を作る人が増える懸念があるために公にはあまり語られなかった)。
動画であれば背景に映り込んでいるディテールなどからヒントを得る手法があるが、音声は音声以外の情報がないために、人による検証が非常に難しかった。技術によってその壁を乗り越えたのは大きな成果だ。
AIで全ては解決できない 鍵は人によるAI活用
画像や動画や音声の加工や捏造を検証する際に、AIは大きな力を発揮する。
オリジナルの画像や動画を見つけてくるのは、その典型だ。また、動画や音声を自動で文字起こししたり、映像の中にある字幕なども抽出して比較したりする新ツールも出てきた。
英語の動画にでたらめの日本語字幕をつける偽情報の手法は非常に多い（例：ビル・ゲイツが予防接種は間違いと認めた？)。この技術によって動画の検証にかかる時間は劇的に短くなる。
また、複数のAIツールを活用して、ファクトチェックの記事から半自動的に多言語の動画コンテンツを作る手法も紹介された。
ファクトチェックへの技術の活用には3つの層がある。「検知・検証・配信」だ。どこに怪しい情報があるかを自動的に探す「検知」や、完成した検証コンテンツをそれを必要とする人たちに効率よく届ける「配信」は、今後ますますAI活用が進むであろう分野だ。
一方で、そもそも拡散している偽・誤情報の何が問題なのかという検証対象の設定や、因果関係・相関関係の確認、背景情報も含めて総合的に検証結果を導いていくような作業は、人間の知識と経験が不可欠だ。「生成AIは言葉を生成するが、知識を生成するわけではない」ということを理解し、AIが得意なことをAIに任せるという判断が必要だ。
「ファクトチェックは検閲ではない」
総会に先駆けて、IFCNは「表現の自由とファクトチェックに関するサラエボ宣言」を公表した。世界的にファクトチェックは「オンライン検閲者であるとして執拗に攻撃され、多くは、誹謗中傷、個人情報の暴露、組織的な攻撃、法的な脅迫、政治的な圧力、さらには身体的な暴力」に晒されているという背景がある。
「検閲は情報を削除するが、ファクトチェックは追加する」と宣言では両者の違いを明快に説明している。また、「実際の害を引き起こす場合、一部の情報は削除されることがありえる」と指摘した上で「誤った主張が単に誤っているというだけで削除されるべきではありません。代わりに、公衆が主張の真偽を判断するための適切な文脈と検証を提供するべきです」と偽・誤情報対策として、削除よりもファクトチェック情報の提供の方が重要であるということを改めて強調した。
情報の真偽を検証するという意味でのファクトチェックは、ジャーナリズムの世界で古くから実践されている。
それがネット上で大量に拡散する偽・誤情報への対策の一つとして認識され、ルールや手法が段階的に確立され、発展してきたのは、フェイクニュース問題が世界的な注目を集めた2016年のアメリカ大統領選以降だ。
2015年に設立されたIFCNは認証団体が2016年9月で35、2024年にはJFCを含む177（再審査中含む、7月1日現在）にまで増えた。政治家の発言など政治的なトピックを専門とする団体もあれば、科学的な検証に特化した団体、エンタメ系の話題が多い団体など多様だ。
しかし、情報の検証をする以上、「誤り」と判定された情報を信じる人たちからは当然のように批判される。これは万国共通だ。
JFCが官房長官（当時）の発言を「不正確」と判定すれば「反自民」、福島第一原発からの処理水の海洋放出について国や国際原子力機関（IAEA）の報告書などをもとに解説すれば「国の代弁者」などと批判をされる。東京都知事選では小池百合子氏に関しても、蓮舫氏に関しても、偽・誤情報の検証記事を出しているが、片方に不利な情報を「誤り」などと検証すると「肩入れしている」と批判される。
サラエボ宣言はそのような状況を憂慮して出されたものだ。フィリピンのドゥテルテ前政権とその支持者からの圧力を受け、最大で合計103年の禁錮刑を求刑されていたレッサ氏も「あなたの苦しみは、あなた一人のものではない。一緒に力を合わせれば、よりよく戦えるはずです」と参加者たちを鼓舞した。
古田大輔(Daisuke Furuta)
汚染源からの対策
プラットフォームのビジネスモデルとAI技術の発達によって「ネットのクソ化」が加速する中で、我々はどのような対策を取ることができるのか。
ファクトチェックだけでは不十分なのは明らかだ。AIで無尽蔵に偽・誤情報が生成され、拡散される状況で、個々に検証するだけでは追いつかない。
「情報生態系を汚染された川と考えてください。私たちは川から一杯の水を取り出し、浄化し、川に戻しています」(レッサ氏)。嘘や低品質の情報が溢れる大河に、少量のファクトチェックを何度戻したところで、大勢は変わらない。レッサ氏は「嘘の工場からの汚染を止めなければならない」と語る。
レッサ氏が指摘するのは、データやアルゴリズムや技術設計の透明性の重要さだ。「問題はコンテンツではない」「隣人がおかしなことを言っていたとしても、私は気にしない」とレッサ氏は言う。
問題は信頼性や正確性からはかけ離れたコンテンツが、プラットフォームの透明性の低いアルゴリズムによって、大量に拡散していることだ。
レッサ氏は対策として「教育」「立法」「テック企業の協力」を掲げる。教育とは、ファクトチェックやメディア情報リテラシーの普及だ。世界中の多くのファクトチェック団体が、自分たちの検証の実践的な経験を元にした教育活動にも取り組んでいる。
レッサ氏はファクトチェック団体や活動へのテック企業の資金提供への感謝の言葉を繰り返した。一方で、彼女の演説中、最も会場が盛り上がったのは「ファクトチェックに資金を提供してくれてありがとう。でも、正直に言って、あなたたちは自分たちでファクトチェックすることから距離をおきたかっただけです」と厳しく指摘した瞬間だった。
記者の視点：古田大輔
ネット上の偽情報問題に早くから取り組んできたBuzzFeedの日本版編集長として、私がファクトチェックを始めたのは2016年。あれから8年、状況は確実に悪化している。まさに「ネットのクソ化」だ。
日本においてはX(旧Twitter)上での偽・誤情報の拡散が主に指摘されてきたが、問題はそこに止まらない。YouTube、TikTok、ニコニコ動画のような動画プラットフォーム、LINEオープンチャットやTeleglamなどのメッセージアプリ、あらゆるところで低品質な情報が溢れかえっている。
NHKは独自調査で「TikTokに溢れる誤情報の総再生数が3億回超」と報じた。誤情報を一つずつ拾い上げて調べた労作だが、それでも氷山の一角だろう。これらのプラットフォームを包括的に調査するのは、非常に困難だ。
「ネット上の偽情報の影響力は限られているのでは」という指摘もある。しかし、JFCとグロコムによる2万人調査以外にも、誤った情報を事実と受け止めてしまう人たちが少なからずいることは、多くの調査で示されている。「クソ化」が進めばその傾向は悪化する一方だ。
私は複数の大学で非常勤講師をしている。SNSで「ニュース」を見ている大学生の感覚には驚かされる。「ネットに地震兵器について書いてあったんですが、本当ですか？」と典型的な陰謀論である人工地震について質問してくる学生たちは、全く珍しくない。
地球温暖化を考えてみて欲しい。世界中の気候専門家たちによる気候変動に関する政府間パネル（IPCC）が2023年3月に出した統合報告書は、人間活動の地球温暖化への影響は「疑う余地がない」と明言した。6次にわたる報告書の中で、科学的なデータを積み重ねて少しづつ確証的な文言になった。
一方で、確実なデータが積み上がる前から地球温暖化への対策は取られてきた。そうしないと間に合わないからだ。「対策を取るために十分なデータが整うまでは、世界が滅んだとしても何もしない」というわけにはいかない。
対策を取らなければ偽・誤情報がさらに拡散するのは明らかだ。これ以上、取り組みが遅れれば、取り返しのつかない状況になるのではないか。例えば、選挙の結果を受け入れない人たちが暴動を起こすような。
ファクトチェックだけでなく、教育や技術開発やルール制定などが必要であるということは、レッサ氏だけでなく、私も常々指摘してきた。
そのためには組織や業界の枠を超えたマルチステークホルダーによる協力が不可欠だ。日本はそれが非常に弱い。業界を超えた協力どころか、各業界内の協力すらおぼつかないのが実情だ。
フィリピンでは2022年5月の大統領選挙に際し、レッサ氏が率いるラプラーを含む150の組織が連帯してファクトチェックに取り組んだ。アジアだけを見ても、こう言った組織間の協力は韓国、台湾、マレーシア、インドネシアなど各国に広がる。欧州、アフリカ、アラブ、北米、南米も同様だ。筆者は国際イベントに参加するたびに「なぜ、日本の組織はお互いに協力しないのか」と質問を受けるほどだ。
(ちなみに各国の団体で路線や考え方の違いで、実はそれほど仲が良くないという話はよく耳にする。しかし、それとより良い情報生態系のために協力することは別の話だ)
建前でも、青臭い理想論でもなく、私たちはクソではない情報生態系と民主主義のために戦っている。
レッサ氏は「ネットのクソ化」の震源地であり、ファクトチェックのスポンサーでもある大手プラットフォームを「フレネミー(frienemy=友であり、敵である)」と呼んだ。
ある部分で意見が異なっても、より良い民主主義のためであれば仲間になれる人は多いはずだ。レッサ氏は、こう呼びかけていた。
「一緒に戦いませんか？子供たちのためにより良い世界を築きませんか？」
判定基準などはJFCファクトチェック指針をご参照ください。
毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード（またはこのリンク）からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。
