AIの嘘に対抗できるのはAIだけ 「ネットのクソ化」と戦う世界のファクトチェッカーの秘策は

AIの嘘に対抗できるのはAIだけ 「ネットのクソ化」と戦う世界のファクトチェッカーの秘策は
「AIを使ってAIと戦う」と題した講演=サラエボ、古田大輔撮影

世界のファクトチェックをリードする国際ファクトチェックネットワーク(IFCN)の第11回年次総会「グローバル・ファクト11(GF11)」が6月26-28日、ボスニア・ヘルツェゴビナの首都サラエボで開かれました。生成AIの進化によって、世界中でますます拡散する偽・誤情報とどう戦うか。様々なAIツールやその活用法の報告に注目が集まりました。

参加者は89カ国303組織から会場520人、オンライン98人。そのうちテック企業からは5社45人が参加しました(2024年7月13日追記)。

「インターネットのクソ化」が進む世界

「インターネットのクソ化は全力で進行中です。今年1月の時点で、ネットの57.1%を低品質なコンテンツが占めます」

2021年にノーベル平和賞を受賞したフィリピンのジャーナリスト、マリア・レッサ氏はメインスピーカーとして初日に登壇し、オンラインプラットフォームが利益を追求する中でコンテンツが劣化していく「クソ化(Enshittification)」に言及した(発言全文はこちら)。ジャーナリストCory Doctorowの言葉であり、低品質コンテンツの大量拡散は生成AIと機械翻訳によって加速している。

「フェイクニュース」や「ファクトチェック」は、2016年のアメリカ大統領選をきっかけに世界で注目されるようになった。しかし、新型コロナウイルスやロシアによるウクライナ侵略などを経て、その実情と対策は数ヶ月単位で急激に変化し、事態は悪化している。背景にあるのが技術革新だ。

一昨年ごろから特に注目を集めているのが生成AI。短時間に大量のテキストや画像や音声や動画を生み出せる。その性能は加速度的に向上し、人の目では検証が困難な偽情報を多言語で生産できる。信頼性が全くない「クソ」みたいなコンテンツが溢れるようになった。

「偽情報の時代に真実を守る」と題して語るマリア・レッサ氏(右)=IFCN提供

バイアスによってそれでも受け入れてしまう

低品質で信頼性のない誤った情報でも、人は「正しい」と受け止めがちだ。JFCと国際大学グロコムの2万人調査では、実際に日本で拡散した15の偽情報・誤情報について51.5%の人が「正しいと思う」と回答した。

人には情報の正確性ではなく、自分にとって心地よい情報かどうかで判断してしまう認知バイアスがある。しかも、その傾向はSNSプラットフォームのアルゴリズムによるフィルターバブルやエコーチェンバーで強化されてしまう。

背景にプラットフォームのビジネスモデルがある。ユーザーを長時間そのプラットフォームに滞在させ、たくさんの広告を見せることで莫大な売上を得ている。そのためにユーザー個々人の趣味嗜好に合わせたパーソナライズ(個人化)を進める。人の関心(アテンション)を集めることが経済的利益につながるアテンション・エコノミーだ。

レッサ氏は「技術が進化しすぎて、パーソナライズはこの部屋の全員が自分だけのパーソナライズされた現実を持てるというところまで来ました。自分の信念体系や認知バイアスが強化される現実です。自分にパーソナライズされた現実の中で事実を聞くことはありません」と警鐘を鳴らした。

GF11に世界中から集まったファクトチェッカー=IFCN提供

問題としてのAI、対策としてのAI

技術革新とプラットフォームのビジネスモデルが情報生態系の悪化に拍車をかけるという根源的な問題に、ファクトチェッカーはどう対峙するのか。GF11では全体で60あったメインセッションや分科会のうち、16がAIや技術に関するもので、それ以外のテーマの議論でも、多くがAIに言及していた。

筆者(古田)は2022年から3年連続でGFに参加している。テクノロジーに関する議論は年々増え、今年は特にAI活用の話題が急増した。インドでのディープフェイク分析について報告した登壇者はGoogle出身。技術畑の参加者も増えている。

「AIとファクトチェック」「AIによる音声と画像の検証」といったAIを検証に直接的に活用する内容や、AIによる翻訳や動画作成でファクトチェックコンテンツを広げる具体的な手法の紹介、「AIは我々から盗むのか学ぶのか」といったAIの問題点を踏まえた議論もあった。

共通しているのは、AIなしに偽・誤情報対策は不可能という認識だが、AIにも得意・不得意な分野がある。AIに関する初歩的な議論に止まっていたこれまでのGFと異なり、サラエボではAIの強みを活かす実用的なツールや実践的な活用法の紹介が目立った。

例えば、AIで作られた偽音声をAIで検証するツールは、これまでにも存在したが精度が低かった。2023年12月にシンガポールで開かれたアジア太平洋地域のファクトチェッカーのイベントTrusted Media Summitでは「検証は非常に難しい」と議論していたが、半年後のGF11では精度が非常に高い新ツールが出てきた。

偽音声は日本ではまだそれほど注目されていないが、実は偽動画よりも検証が難しいことでファクトチェッカーを悩ませていた(それが知られると偽音声を作る人が増える懸念があるために公にはあまり語られなかった)。

動画であれば背景に映り込んでいるディテールなどからヒントを得る手法があるが、音声は音声以外の情報がないために、人による検証が非常に難しかった。技術によってその壁を乗り越えたのは大きな成果だ。

AIで全ては解決できない 鍵は人によるAI活用

画像や動画や音声の加工や捏造を検証する際に、AIは大きな力を発揮する。

オリジナルの画像や動画を見つけてくるのは、その典型だ。また、動画や音声を自動で文字起こししたり、映像の中にある字幕なども抽出して比較したりする新ツールも出てきた。

英語の動画にでたらめの日本語字幕をつける偽情報の手法は非常に多い(例:ビル・ゲイツが予防接種は間違いと認めた?)。この技術によって動画の検証にかかる時間は劇的に短くなる。

また、複数のAIツールを活用して、ファクトチェックの記事から半自動的に多言語の動画コンテンツを作る手法も紹介された。

ファクトチェックへの技術の活用には3つの層がある。「検知・検証・配信」だ。どこに怪しい情報があるかを自動的に探す「検知」や、完成した検証コンテンツをそれを必要とする人たちに効率よく届ける「配信」は、今後ますますAI活用が進むであろう分野だ。

「AIは人間の監督と専門知識が必要だ」という見解が多くの登壇者から示された

一方で、そもそも拡散している偽・誤情報の何が問題なのかという検証対象の設定や、因果関係・相関関係の確認、背景情報も含めて総合的に検証結果を導いていくような作業は、人間の知識と経験が不可欠だ。「生成AIは言葉を生成するが、知識を生成するわけではない」ということを理解し、AIが得意なことをAIに任せるという判断が必要だ。

「ファクトチェックは検閲ではない」

総会に先駆けて、IFCNは「表現の自由とファクトチェックに関するサラエボ宣言」を公表した。世界的にファクトチェックは「オンライン検閲者であるとして執拗に攻撃され、多くは、誹謗中傷、個人情報の暴露、組織的な攻撃、法的な脅迫、政治的な圧力、さらには身体的な暴力」に晒されているという背景がある。

「検閲は情報を削除するが、ファクトチェックは追加する」と宣言では両者の違いを明快に説明している。また、「実際の害を引き起こす場合、一部の情報は削除されることがありえる」と指摘した上で「誤った主張が単に誤っているというだけで削除されるべきではありません。代わりに、公衆が主張の真偽を判断するための適切な文脈と検証を提供するべきです」と偽・誤情報対策として、削除よりもファクトチェック情報の提供の方が重要であるということを改めて強調した。

情報の真偽を検証するという意味でのファクトチェックは、ジャーナリズムの世界で古くから実践されている。

それがネット上で大量に拡散する偽・誤情報への対策の一つとして認識され、ルールや手法が段階的に確立され、発展してきたのは、フェイクニュース問題が世界的な注目を集めた2016年のアメリカ大統領選以降だ。

2015年に設立されたIFCNは認証団体が2016年9月で35、2024年にはJFCを含む177(再審査中含む、7月1日現在)にまで増えた。政治家の発言など政治的なトピックを専門とする団体もあれば、科学的な検証に特化した団体、エンタメ系の話題が多い団体など多様だ。

しかし、情報の検証をする以上、「誤り」と判定された情報を信じる人たちからは当然のように批判される。これは万国共通だ。

JFCが官房長官(当時)の発言を「不正確」と判定すれば「反自民」、福島第一原発からの処理水の海洋放出について国や国際原子力機関(IAEA)の報告書などをもとに解説すれば「国の代弁者」などと批判をされる。東京都知事選では小池百合子氏に関しても、蓮舫氏に関しても、偽・誤情報の検証記事を出しているが、片方に不利な情報を「誤り」などと検証すると「肩入れしている」と批判される。

サラエボ宣言はそのような状況を憂慮して出されたものだ。フィリピンのドゥテルテ前政権とその支持者からの圧力を受け、最大で合計103年の禁錮刑を求刑されていたレッサ氏も「あなたの苦しみは、あなた一人のものではない。一緒に力を合わせれば、よりよく戦えるはずです」と参加者たちを鼓舞した。

ファクトチェックと検閲の違いとは 「情報を消すのではなく追加する」 IFCNサラエボ宣言
世界のファクトチェックをリードする国際ファクトチェックネットワーク(IFCN)は6月25日、「表現の自由とファクトチェックに関するサラエボ宣言」を公表しました。日本ファクトチェックセンター(JFC)を含む世界80カ国130のファクトチェック組織が署名しています。 ファクトチェックと表現の自由の関係 ファクトチェッカーはオンライン検閲者か 情報の真偽を検証するファクトチェックは、特に2016年のアメリカ大統領選や2020年からの新型コロナウイルスに伴う大量の偽情報・誤情報の拡散に対し、その重要性が注目され、世界に広がりました。 この間、IFCNの認証を受けたファクトチェック組織は2016年9月の35団体から2024年にはJFCを含む177(再審査中含む、6月26日現在)にまで増えています。 一方でファクトチェッカーに対する批判も世界中で見られます。その一つが「オンラインの検閲者だ」というものです。ファクトチェックで誤りを指摘することを、表現の自由や言論の自由への弾圧だと捉える批判です。 「検閲は情報を削除するが、ファクトチェックは追加する」 「ファ

汚染源からの対策

プラットフォームのビジネスモデルとAI技術の発達によって「ネットのクソ化」が加速する中で、我々はどのような対策を取ることができるのか。

ファクトチェックだけでは不十分なのは明らかだ。AIで無尽蔵に偽・誤情報が生成され、拡散される状況で、個々に検証するだけでは追いつかない。

「情報生態系を汚染された川と考えてください。私たちは川から一杯の水を取り出し、浄化し、川に戻しています」(レッサ氏)。嘘や低品質の情報が溢れる大河に、少量のファクトチェックを何度戻したところで、大勢は変わらない。レッサ氏は「嘘の工場からの汚染を止めなければならない」と語る。

レッサ氏が指摘するのは、データやアルゴリズムや技術設計の透明性の重要さだ。「問題はコンテンツではない」「隣人がおかしなことを言っていたとしても、私は気にしない」とレッサ氏は言う。

問題は信頼性や正確性からはかけ離れたコンテンツが、プラットフォームの透明性の低いアルゴリズムによって、大量に拡散していることだ。

レッサ氏は対策として「教育」「立法」「テック企業の協力」を掲げる。教育とは、ファクトチェックやメディア情報リテラシーの普及だ。世界中の多くのファクトチェック団体が、自分たちの検証の実践的な経験を元にした教育活動にも取り組んでいる。

レッサ氏はファクトチェック団体や活動へのテック企業の資金提供への感謝の言葉を繰り返した。一方で、彼女の演説中、最も会場が盛り上がったのは「ファクトチェックに資金を提供してくれてありがとう。でも、正直に言って、あなたたちは自分たちでファクトチェックすることから距離をおきたかっただけです」と厳しく指摘した瞬間だった。

GF会場にはスポンサーの名前として大手テック企業の名前が並んだ

記者の視点:古田大輔

ネット上の偽情報問題に早くから取り組んできたBuzzFeedの日本版編集長として、私がファクトチェックを始めたのは2016年。あれから8年、状況は確実に悪化している。まさに「ネットのクソ化」だ。

日本においてはX(旧Twitter)上での偽・誤情報の拡散が主に指摘されてきたが、問題はそこに止まらない。YouTube、TikTok、ニコニコ動画のような動画プラットフォーム、LINEオープンチャットやTeleglamなどのメッセージアプリ、あらゆるところで低品質な情報が溢れかえっている。

NHKは独自調査で「TikTokに溢れる誤情報の総再生数が3億回超」と報じた。誤情報を一つずつ拾い上げて調べた労作だが、それでも氷山の一角だろう。これらのプラットフォームを包括的に調査するのは、非常に困難だ。

「ネット上の偽情報の影響力は限られているのでは」という指摘もある。しかし、JFCとグロコムによる2万人調査以外にも、誤った情報を事実と受け止めてしまう人たちが少なからずいることは、多くの調査で示されている。「クソ化」が進めばその傾向は悪化する一方だ。

私は複数の大学で非常勤講師をしている。SNSで「ニュース」を見ている大学生の感覚には驚かされる。「ネットに地震兵器について書いてあったんですが、本当ですか?」と典型的な陰謀論である人工地震について質問してくる学生たちは、全く珍しくない。

地球温暖化を考えてみて欲しい。世界中の気候専門家たちによる気候変動に関する政府間パネル(IPCC)が2023年3月に出した統合報告書は、人間活動の地球温暖化への影響は「疑う余地がない」と明言した。6次にわたる報告書の中で、科学的なデータを積み重ねて少しづつ確証的な文言になった。

一方で、確実なデータが積み上がる前から地球温暖化への対策は取られてきた。そうしないと間に合わないからだ。「対策を取るために十分なデータが整うまでは、世界が滅んだとしても何もしない」というわけにはいかない。

対策を取らなければ偽・誤情報がさらに拡散するのは明らかだ。これ以上、取り組みが遅れれば、取り返しのつかない状況になるのではないか。例えば、選挙の結果を受け入れない人たちが暴動を起こすような。

ファクトチェックだけでなく、教育や技術開発やルール制定などが必要であるということは、レッサ氏だけでなく、私も常々指摘してきた

そのためには組織や業界の枠を超えたマルチステークホルダーによる協力が不可欠だ。日本はそれが非常に弱い。業界を超えた協力どころか、各業界内の協力すらおぼつかないのが実情だ。

フィリピンでは2022年5月の大統領選挙に際し、レッサ氏が率いるラプラーを含む150の組織が連帯してファクトチェックに取り組んだ。アジアだけを見ても、こう言った組織間の協力は韓国、台湾、マレーシア、インドネシアなど各国に広がる。欧州、アフリカ、アラブ、北米、南米も同様だ。筆者は国際イベントに参加するたびに「なぜ、日本の組織はお互いに協力しないのか」と質問を受けるほどだ。

(ちなみに各国の団体で路線や考え方の違いで、実はそれほど仲が良くないという話はよく耳にする。しかし、それとより良い情報生態系のために協力することは別の話だ)

建前でも、青臭い理想論でもなく、私たちはクソではない情報生態系と民主主義のために戦っている。

レッサ氏は「ネットのクソ化」の震源地であり、ファクトチェックのスポンサーでもある大手プラットフォームを「フレネミー(frienemy=友であり、敵である)」と呼んだ。

ある部分で意見が異なっても、より良い民主主義のためであれば仲間になれる人は多いはずだ。レッサ氏は、こう呼びかけていた。

「一緒に戦いませんか?子供たちのためにより良い世界を築きませんか?」

判定基準などはJFCファクトチェック指針をご参照ください。検証記事を広げるため、XFacebookYouTubeInstagramでのフォロー・拡散をよろしくお願いします。毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンからどうぞ。

また、こちらのQRコード(またはこのリンク)からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を

もっと見る

習近平国家主席が脳卒中で倒れた? 椅子から転げ落ちたという画像が拡散【ファクトチェック】

習近平国家主席が脳卒中で倒れた? 椅子から転げ落ちたという画像が拡散【ファクトチェック】

中国の習近平国家主席が「中国共産党の会議で椅子から転げ落ちた。脳卒中だ」などという言説が画像とともに拡散しましたが、根拠不明です。拡散した画像は2024年3月の全国人民代表大会のもので、その後も公務の様子がたびたび報じられています。2024年7月25日時点で習主席が重篤な状態だという信頼性のある情報はありません。 検証対象 2024年7月18日、「中国共産党の全体会議の写真に、習近平が突然、痛みに震えて椅子から転げ落ちる様子が写っている。 おそらく脳卒中だったのだろう」「衰弱の発作だったのかもしれない」という投稿が拡散した。 添付された画像にはドイツ語で、「習近平は脳卒中を患ったのか?」という題名の後に、「中国共産党本会議の写真には、習近平氏が突然痛みでけいれんし、椅子から転げ落ちる様子が映っている。おそらく脳卒中を起こしたのだろう」などと書かれている。3枚の画像には顔をしかめる習主席や、習主席の机を確認する女性が写っている。 2024年7月25日時点で1800件以上リポストされ、表示回数は117万回を超える。投稿について「どくさつ」「おそらく脳卒中」など

By 日本ファクトチェックセンター(JFC)
ファクトチェックに使えるサイトやツール 公開情報を使いこなす【JFC講座 実践編7】

ファクトチェックに使えるサイトやツール 公開情報を使いこなす【JFC講座 実践編7】

日本ファクトチェックセンター(JFC)のファクトチェック講座です。 実践編第6回は、公開されている情報に基づいた調査=OSINTについてでした。第7回はファクトチェックに役立つサイトやツールを紹介します。 (本編は動画でご覧ください。この記事は概要をまとめています) ファクトチェックに役立つサイトやツール 理論編から繰り返し説明してきたようにファクトチェックは、検証する際の根拠を開示することが大前提です。 インターネット上には、公開情報を手に入れるのに役立つサイトやツールがたくさんあります。これまでに紹介したGoogle画像検索やInVID、Googleマップなどもそうですが、今回は主に資料探しに役立つサイトやツールを紹介したいと思います。 政府の公式データの活用 中央行政のオープンデータポータル「e-Gov」や政府統計の総合窓口「e-Stat」は、各省庁のデータを横断的に検索できる非常に便利なサイトです。 キーワードやカテゴリ、テーマごとに検索が可能で、信頼性の高い公的データを素早く見つけることができます。 これらのサイトは、海外でも同様のも

By 古田大輔(Daisuke Furuta)
OSINTでファクトチェック 公開データを使い真偽を判別する【JFC講座 実践編6】

OSINTでファクトチェック 公開データを使い真偽を判別する【JFC講座 実践編6】

日本ファクトチェックセンター(JFC)のファクトチェック講座です。 実践編第5回は、生成AIで作られる画像や動画の検証についてでした。第6回は公開されている情報に基づいた調査=OSINTについて解説します。 (本編は動画でご覧ください。この記事は概要をまとめています) OSINTとは オープンソースインテリジェンス(Open Source Inteligence=OSINT)とは、一般に公開されている情報を収集し分析する手法のことです。 近年、調査報道やファクトチェックに活用されており、オンライン調査とも呼ばれます。日本ファクトチェックセンター(JFC)でもこの手法を活用しています。 現実の画像かどうかOSINTで確認する 実例で見ていきます。 実践編第5回でも紹介したように、2022年9月の静岡県の水害では、生成AIによる偽画像が拡散しました。 ドローンで撮影された静岡県の災害画像? AIディープフェイクの見分け方【ファクトチェック】台風15号による記録的な大雨に見舞われた静岡県をドローンで撮影したとする画像がTwitter上で拡散しています

By 古田大輔(Daisuke Furuta)
生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】

生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】

日本ファクトチェックセンター(JFC)のファクトチェック講座です。 実践編第4回は、増加傾向にある偽動画の検証についてでした。第5回は公開されている生成AIで作られる画像や動画の検証について解説します。 (本編は動画でご覧ください。この記事は概要をまとめています) 生成AIによる「ディープフェイク」 生成AIで作られた偽情報は「ディープフェイク」と呼ばれます。 例えば、アメリカのトランプ前大統領が「岸田首相はグローバリストの操り人形」と話している動画が拡散しました。これは発言内容を自由に捏造できるツールで作られたディープフェイクです。 一方で、AIを使わずに作られた偽の画像や動画などをディープ(深い)に対応して「シャロー(浅い)フェイク」や「チープ(安い)フェイク」と呼びます。 例として、台湾の地震時に東日本大震災の映像が使われた事例があります。現状では、チープフェイクの方が圧倒的に多いですが、ディープフェイクも増えつつあります。 日本のディープフェイク事例 日本で最初に有名になったディープフェイク事例は、2022年9月の静岡県での事例です。「

By 古田大輔(Daisuke Furuta)