AIの嘘をAIで見破れるか？ 総務省「偽情報対策」14団体の成果と課題

偽・誤情報へのテクノロジーを活用した対策を発表するイベントが3月16日、都内で開かれました。技術開発に予算をつける総務省の事業で、公募で採択された14の企業や団体が参加し、研究成果を発表しました。生成AIによるディープフェイクなどが巧妙化する中、技術的な対策は国内でどこまで進んでいるのか。それぞれの取り組みと課題について紹介します。

(参加した企業・団体の一覧は記事末尾)

総務省の対策技術開発事業とは

総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業」は2024年度開始。ネット上で大量に拡散する偽・誤情報に人力だけで対抗することは不可能なため、有効な技術開発を推進する狙いです（総務省”インターネット上の偽・誤情報等への対策技術の開発・実証事業（令和7年度）”）。

今回の事業で、偽・誤情報への対策技術は4つに分類されています。

コンテンツの真偽判別支援・改ざん検知技術
情報の受信者がネット上の情報が本物か、改ざんされていないか見極めることの支援

真正性保証・信頼性判断支援技術
情報コンテンツの作成者・発信者が本物であることを示し、情報コンテンツの信頼性の判断を支援

情報流通状況の可視化・分析技術
ネット上の情報の広がりを把握する技術

情報の拡散防止・無効化技術
偽・誤情報の拡散を未然に防ぎ、影響を抑える技術

14の企業・団体の発表はいずれもこれらの技術に関わるものでした。それぞれの技術にはどのような効果と課題があるのか、個々の技術が抱える課題と共通する根本的な課題について解説します。

技術による偽・誤情報対策の可能性と課題

AIが効率化する検知・検証とその誤り

コンテンツの真偽判別や改ざんの検知に関する技術は、偽・誤情報を検証するのに直接的に役立つ技術です。データグリッド、サン電子、NECなど多くの企業の技術に盛り込まれています。

画像や動画や音声がAIで生成されていたり、改変されていたりする場合に、AIで検知する技術は必須になってきています。精巧なディープフェイクが大量に拡散するようになり、人間の眼での検証が追いつかないからです。ただし、課題は検証の正確性です。まだまだ完璧とは言えません。

文章を検証する場合も、同じように正確性の課題があります。ソーシャルメディア投稿が述べている事実が正しいかどうかを検証するには、大まかに3つの段階を踏む必要があります。

1. 投稿がどういう事実を提示しているかを正確に把握する
2. 提示されている事実に関連する信頼性の高い情報を収集する
3. 2で収集した信頼性の高い情報をもとに1で把握した「事実の提示」の真偽を判定する

人間がやっても、AIがやってもこの流れは変わりません。JFCで人がファクトチェックをする場合でも、この1-3の工程でAIを活用します。例えば、長時間の動画の中で客観的に検証が可能な部分を抽出したり、それに関連する資料を集めたり、判定をする際に論理的な齟齬がないか確認する作業に使います。

JFCがAIを利用する場合は、すべての工程に人間が必ず関わります。最終的な確認をするのも人間です。AIは大量の資料を分析する点では人間より遥かに優れており、作業を大幅に効率化してくれます。しかし、ミスもあります。文脈を取り違えたり、古い資料と取り違えたり、判定根拠が曖昧だったり。

人間にもミスはありますが、AIを人間が監督して活用することで、お互いの強みを活かした検証が可能になります。ところが実際には、AIサービスには「間違えることがある」などの注記がついているにも関わらず、AIの回答をそのまま信じるユーザーが多いのが現実です。

2026年衆院選では、街頭演説の動画をXのAI「Grok」がAIが生成した動画だと誤診し、それを根拠に間違った情報が拡散しました。JFCはこのような事例をこれまでに繰り返し報じています。

JFC”中道改革連合の街頭演説会に集まった聴衆の動画はAI生成? Grokによる不確かな判定【♯衆院選ファクトチェック】”

ナラティブの分析と影響工作への対応

情報環境を混乱させているのは、純粋に事実関係が間違っている情報だけではありません。断片的な事実をもとに人の好意や嫌悪などの感情に強く働きかける語り口（ナラティブ）の投稿が、動画プラットフォームを中心に氾濫するようになりました。

ここで重要になるのは個々の投稿の検証とともに、様々な投稿に共通するナラティブは何かという分析です。膨大な投稿を前に人の目で一つずつ確認することは不可能で、AIを活用した分析が力を発揮します。

コンステラセキュリティジャパン、TDAI Lab、Sakana AIなどの技術は、個々の偽・誤情報の検証だけでなく、全体像を分析し、対応策を検討する際に役立ちます。特に近年の選挙ではロシアや中国など、海外からの世論操作＝影響工作が指摘されています。その対策にはこのような技術が不可欠です。

問題は、その分析がどこまで正確で信頼がおけるものなのか。そのナラティブが影響工作のような故意に作り出されたものと言えるのか。これらを検討する際には、その分野に詳しい人間による確認が必要になるでしょう。

真正性の保証とその普及

この記事を書いているのはJFC編集長の古田大輔です。しかし、本当にこの記事の筆者が古田なのか。改変されていないのか。つまりは「真正性」を保証するのは手間がかかります。

技術的にその問題を解決しようというのがOriginator Profile技術研究組合や、NTTドコモビジネスが活用しているC2PAなどの技術です。エヴィクサーの「音響透かし」やNABLASとNTT東日本の電子透かしなども同様です。

情報を検証するファクトチェッカーにとっては非常に役立つ技術ですが、ここにも課題があります。その技術が十分に広がっていなければ、真正性が確認できるものがごく一部にとどまります。また、一般ユーザーにとっては、その技術の存在を知っていなければ意味をなしません。つまり、普及が鍵になります。

草の根の対策とプレバンキング

コード・フォー・ジャパンは異なるアプローチを取りました。Xでユーザーが投稿に付加情報をつける機能「コミュニティノート」に着目し、そのデータからX上の動向を分析するツール「BirdXplorer」の開発です。

コミュニティノートは真偽が不確かな投稿に着くことが多く、また、その質は玉石混交ですが、根拠が明示されている質が高いものが多いのが特徴です。API有料化で投稿自体のデータの取得が難しくなる中で、一般ユーザーが大量に付加するコミュニティノートを分析することで、X上の偽・誤情報の分析や対策に草の根の力を役立てることが出来ます。

教育に着目した企業もあります。学生スタートアップのClassroom Adventureは、偽情報を作るよくある手法をユーザーが体験することで手口を学び、抵抗力を身につける教材を開発しました。間違った情報を事後的に検証するファクトチェック（デバンキング）に対してプレバンキングと呼ばれる予防的な手法で、ファクトチェック以上の効果があるとも指摘されています。

※情報開示：古田は個人としてClassroom Adventureの開発に協力しました。

すべての技術に共通する課題

それぞれの技術が偽・誤情報の対策に役立ちます。ただし、個別の課題だけではなく、共通する難点も存在します。

多様なプラットフォームへの対応

発表された技術の多くはXなどごく一部のプラットフォームを対象にしたものでした。偽・誤情報は実際には、YouTube、TikTok、Instagram、Facebookなど、多様なプラットフォームに横断的に拡散していきます。特にショート動画が普及したことで、かつては偽・誤情報拡散の中心と言われたXだけでは実態がつかめなくなりました。

WeChat、Douyin、Weibo、Bilibiliなど中国を中心に世界に広がっているプラットフォームで日本に関する偽・誤情報が拡散する状況になる中で、技術的な対応もさらに難しくなっています。

継続的な開発・改善を支える資金は

対策技術を開発したとしても、それを普及したり、維持・改善したりするためには資金が必要です。そのためにはこれらの技術がサービスとして売り物になるか、何らかの形で資金提供を受ける必要があります。

そもそも今回、総務省が予算をつけて事業を実施したのは、民間だけでは開発資金の捻出が難しいからです。売り物になることが見込まれる製品であれば、国が予算をつけなくとも民間で勝手に開発します。それが難しいからこそ、総務省が事業化したとも言えます。

会場で発表する各企業や団体の人達に話を聞くと、普及についても、継続資金についても「簡単ではない」という声が聞かれました。事業が終われば開発も終わり、ということになりかねません。

今回発表があった技術のうち、実際に世の中に普及するものがどれだけあるのか。この事業の真の成果は、そこで明らかになります。

参加した企業・団体と発表内容

【技術開発】

一般社団法人コード・フォー・ジャパン：SNSにおける偽情報・真偽不明情報の市民参加型可視化・分析
エヴィクサー株式会社：音響透かしと音響フィンガープリントを用いた偽・誤情報対策クラウドシステム
NTTドコモビジネス株式会社：情報の真正性を可視化するC2PA技術を活用した偽・誤情報対策
Originator Profile技術研究組合：発信者の真正性を担保する「Originator Profile」
株式会社Classroom Adventure：偽・誤情報サンドボックスを活用した実践的ゲーム型プレバンキング
株式会社コンステラセキュリティジャパン：偽・誤情報およびデバンキング情報拡散のシミュレーション
株式会社TDAI Lab：デジタル情報空間における多層的意味解析と拡散ダイナミクス解明プラットフォーム
株式会社データグリッド：SNSユーザー支援を中核とした偽・誤情報対策
関西テレビソフトウェア株式会社：放送波を活用した災害時における偽・誤情報対策
SEARCHLIGHT株式会社：ストリーミング動画コンテンツの真偽検証支援
Sakana AI株式会社：画像・動画を中心としたSNS上の投稿の真偽判定システム
サン電子株式会社：多元統合型偽・誤情報検出
NABLAS株式会社・NTT東日本株式会社：電話音声フェイク検知および自治体向け偽・誤情報総合対策
日本電気株式会社（NEC）：AIを活用した情報コンテンツの真偽判別支援技術

【研究・調査】

株式会社新領域安全保障研究所：グローバル・メタアナリシスと国内実証による対策技術の有効性
東京大学大学院情報学環：生成AI時代における偽誤情報流通と認知特性の解明