その他

AIの嘘をAIで見破れるか？総務省「偽情報対策」14団体の成果と課題

古田大輔(Daisuke Furuta)

2026年3月25日

偽・誤情報へのテクノロジーを活用した対策を発表するイベントが3月16日、都内で開かれました。技術開発に予算をつける総務省の事業で、公募で採択された14の企業や団体が参加し、研究成果を発表しました。生成AIによるディープフェイクなどが巧妙化する中、技術的な対策は国内でどこまで進んでいるのか。それぞれの取り組みと課題について紹介します。

(参加した企業・団体の一覧は記事末尾)

総務省の対策技術開発事業とは

総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業」は2024年度開始。ネット上で大量に拡散する偽・誤情報に人力だけで対抗することは不可能なため、有効な技術開発を推進する狙いです（総務省”インターネット上の偽・誤情報等への対策技術の開発・実証事業（令和7年度）”）。

今回の事業で、偽・誤情報への対策技術は4つに分類されています。

コンテンツの真偽判別支援・改ざん検知技術
情報の受信者がネット上の情報が本物か、改ざんされていないか見極めることの支援

真正性保証・信頼性判断支援技術
情報コンテンツの作成者・発信者が本物であることを示し、情報コンテンツの信頼性の判断を支援

情報流通状況の可視化・分析技術
ネット上の情報の広がりを把握する技術

情報の拡散防止・無効化技術
偽・誤情報の拡散を未然に防ぎ、影響を抑える技術

14の企業・団体の発表はいずれもこれらの技術に関わるものでした。それぞれの技術にはどのような効果と課題があるのか、個々の技術が抱える課題と共通する根本的な課題について解説します。

技術による偽・誤情報対策の可能性と課題

AIが効率化する検知・検証とその誤り

コンテンツの真偽判別や改ざんの検知に関する技術は、偽・誤情報を検証するのに直接的に役立つ技術です。データグリッド、サン電子、NECなど多くの企業の技術に盛り込まれています。

画像や動画や音声がAIで生成されていたり、改変されていたりする場合に、AIで検知する技術は必須になってきています。精巧なディープフェイクが大量に拡散するようになり、人間の眼での検証が追いつかないからです。ただし、課題は検証の正確性です。まだまだ完璧とは言えません。

文章を検証する場合も、同じように正確性の課題があります。ソーシャルメディア投稿が述べている事実が正しいかどうかを検証するには、大まかに3つの段階を踏む必要があります。

投稿がどういう事実を提示しているかを正確に把握する
提示されている事実に関連する信頼性の高い情報を収集する
2で収集した信頼性の高い情報をもとに1で把握した「事実の提示」の真偽を判定する

人間がやっても、AIがやってもこの流れは変わりません。JFCで人がファクトチェックをする場合でも、この1-3の工程でAIを活用します。例えば、長時間の動画の中で客観的に検証が可能な部分を抽出したり、それに関連する資料を集めたり、判定をする際に論理的な齟齬がないか確認する作業に使います。

JFCがAIを利用する場合は、すべての工程に人間が必ず関わります。最終的な確認をするのも人間です。AIは大量の資料を分析する点では人間より遥かに優れており、作業を大幅に効率化してくれます。しかし、ミスもあります。文脈を取り違えたり、古い資料と取り違えたり、判定根拠が曖昧だったり。

人間にもミスはありますが、AIを人間が監督して活用することで、お互いの強みを活かした検証が可能になります。ところが実際には、AIサービスには「間違えることがある」などの注記がついているにも関わらず、AIの回答をそのまま信じるユーザーが多いのが現実です。

2026年衆院選では、街頭演説の動画をXのAI「Grok」がAIが生成した動画だと誤診し、それを根拠に間違った情報が拡散しました。JFCはこのような事例をこれまでに繰り返し報じています。

JFC”中道改革連合の街頭演説会に集まった聴衆の動画はAI生成? Grokによる不確かな判定【♯衆院選ファクトチェック】”

ナラティブの分析と影響工作への対応

情報環境を混乱させているのは、純粋に事実関係が間違っている情報だけではありません。断片的な事実をもとに人の好意や嫌悪などの感情に強く働きかける語り口（ナラティブ）の投稿が、動画プラットフォームを中心に氾濫するようになりました。

ここで重要になるのは個々の投稿の検証とともに、様々な投稿に共通するナラティブは何かという分析です。膨大な投稿を前に人の目で一つずつ確認することは不可能で、AIを活用した分析が力を発揮します。

コンステラセキュリティジャパン、TDAI Lab、Sakana AIなどの技術は、個々の偽・誤情報の検証だけでなく、全体像を分析し、対応策を検討する際に役立ちます。特に近年の選挙ではロシアや中国など、海外からの世論操作＝影響工作が指摘されています。その対策にはこのような技術が不可欠です。

問題は、その分析がどこまで正確で信頼がおけるものなのか。そのナラティブが影響工作のような故意に作り出されたものと言えるのか。これらを検討する際には、その分野に詳しい人間による確認が必要になるでしょう。

真正性の保証とその普及

この記事を書いているのはJFC編集長の古田大輔です。しかし、本当にこの記事の筆者が古田なのか。改変されていないのか。つまりは「真正性」を保証するのは手間がかかります。

技術的にその問題を解決しようというのがOriginator Profile技術研究組合や、NTTドコモビジネスが活用しているC2PAなどの技術です。エヴィクサーの「音響透かし」やNABLASとNTT東日本の電子透かしなども同様です。

情報を検証するファクトチェッカーにとっては非常に役立つ技術ですが、ここにも課題があります。その技術が十分に広がっていなければ、真正性が確認できるものがごく一部にとどまります。また、一般ユーザーにとっては、その技術の存在を知っていなければ意味をなしません。つまり、普及が鍵になります。

草の根の対策とプレバンキング

コード・フォー・ジャパンは異なるアプローチを取りました。Xでユーザーが投稿に付加情報をつける機能「コミュニティノート」に着目し、そのデータからX上の動向を分析するツール「BirdXplorer」の開発です。

コミュニティノートは真偽が不確かな投稿に着くことが多く、また、その質は玉石混交ですが、根拠が明示されている質が高いものが多いのが特徴です。API有料化で投稿自体のデータの取得が難しくなる中で、一般ユーザーが大量に付加するコミュニティノートを分析することで、X上の偽・誤情報の分析や対策に草の根の力を役立てることが出来ます。

教育に着目した企業もあります。学生スタートアップのClassroom Adventureは、偽情報を作るよくある手法をユーザーが体験することで手口を学び、抵抗力を身につける教材を開発しました。間違った情報を事後的に検証するファクトチェック（デバンキング）に対してプレバンキングと呼ばれる予防的な手法で、ファクトチェック以上の効果があるとも指摘されています。

※情報開示：古田は個人としてClassroom Adventureの開発に協力しました。

すべての技術に共通する課題

それぞれの技術が偽・誤情報の対策に役立ちます。ただし、個別の課題だけではなく、共通する難点も存在します。

多様なプラットフォームへの対応

発表された技術の多くはXなどごく一部のプラットフォームを対象にしたものでした。偽・誤情報は実際には、YouTube、TikTok、Instagram、Facebookなど、多様なプラットフォームに横断的に拡散していきます。特にショート動画が普及したことで、かつては偽・誤情報拡散の中心と言われたXだけでは実態がつかめなくなりました。

WeChat、Douyin、Weibo、Bilibiliなど中国を中心に世界に広がっているプラットフォームで日本に関する偽・誤情報が拡散する状況になる中で、技術的な対応もさらに難しくなっています。

継続的な開発・改善を支える資金は

対策技術を開発したとしても、それを普及したり、維持・改善したりするためには資金が必要です。そのためにはこれらの技術がサービスとして売り物になるか、何らかの形で資金提供を受ける必要があります。

そもそも今回、総務省が予算をつけて事業を実施したのは、民間だけでは開発資金の捻出が難しいからです。売り物になることが見込まれる製品であれば、国が予算をつけなくとも民間で勝手に開発します。それが難しいからこそ、総務省が事業化したとも言えます。

会場で発表する各企業や団体の人達に話を聞くと、普及についても、継続資金についても「簡単ではない」という声が聞かれました。事業が終われば開発も終わり、ということになりかねません。

今回発表があった技術のうち、実際に世の中に普及するものがどれだけあるのか。この事業の真の成果は、そこで明らかになります。

参加した企業・団体と発表内容

【技術開発】

一般社団法人コード・フォー・ジャパン：SNSにおける偽情報・真偽不明情報の市民参加型可視化・分析
エヴィクサー株式会社：音響透かしと音響フィンガープリントを用いた偽・誤情報対策クラウドシステム
NTTドコモビジネス株式会社：情報の真正性を可視化するC2PA技術を活用した偽・誤情報対策
Originator Profile技術研究組合：発信者の真正性を担保する「Originator Profile」
株式会社Classroom Adventure：偽・誤情報サンドボックスを活用した実践的ゲーム型プレバンキング
株式会社コンステラセキュリティジャパン：偽・誤情報およびデバンキング情報拡散のシミュレーション
株式会社TDAI Lab：デジタル情報空間における多層的意味解析と拡散ダイナミクス解明プラットフォーム
株式会社データグリッド：SNSユーザー支援を中核とした偽・誤情報対策
関西テレビソフトウェア株式会社：放送波を活用した災害時における偽・誤情報対策
SEARCHLIGHT株式会社：ストリーミング動画コンテンツの真偽検証支援
Sakana AI株式会社：画像・動画を中心としたSNS上の投稿の真偽判定システム
サン電子株式会社：多元統合型偽・誤情報検出
NABLAS株式会社・NTT東日本株式会社：電話音声フェイク検知および自治体向け偽・誤情報総合対策
日本電気株式会社（NEC）：AIを活用した情報コンテンツの真偽判別支援技術

【研究・調査】

株式会社新領域安全保障研究所：グローバル・メタアナリシスと国内実証による対策技術の有効性
東京大学大学院情報学環：生成AI時代における偽誤情報流通と認知特性の解明

ニュースレター登録（無料）はこちら

判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード（またはこのリンク）からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。

日本のインフレ率が世界トップ? IMF2026年予測で下位、OECD実績でもG7中5位【ファクトチェック】

「日本のインフレ率が世界トップらしい」という言説が拡散しましたが、誤りです。国際通貨基金（IMF）の2026年予測では日本は190か国中で下位、OECDによるG7実績の比較でも5位。世界一という実態からかけ離れています。検証対象拡散した言説 2026年3月20日、「日本のインフレ率、どうやら世界のトップらしい」という投稿がXで拡散した。検証する理由 3月24日現在、投稿は6000回以上リポストされ、表示は44万件を超える。投稿には「嘘はいけない」「日本のインフレ率が世界一？お前そんな認識で投資家名乗ってんの？」などの指摘もあるが、「インフレに加えて社会保険料も毎年上がってますからね…」「本当にふざけてる」など同調するコメントが多いため、検証する。検証過程インフレ率とは IMFのウェブサイトによると、インフレ率とは次の通りだ。「インフレとは、一定期間における物価の上昇率のことです。インフレは通常、物価全体の上昇や国内の生活費の上昇など、広範な指標として用いられます。しかし、食料品などの特定の財や、散髪などのサービスに限定して

高市首相の台湾有事発言で中国の台湾侵攻計画が遠のいた? 米報告書は両者を別々に書いている【ファクトチェック】

高市早苗首相の台湾有事発言によって、中国の台湾侵攻計画が遠のいたという報告書を米国政府が出したという情報が拡散しましたが、誤りです。報告書は高市発言と侵攻計画にそれぞれ触れていますが、両者を結びつけていません。二つの事柄を並べた見出しが誤読を招いています。検証対象拡散した投稿 2026年3月、時事通信の「『中国、２７年の台湾侵攻計画せず』　高市首相発言は重大転換―米報告書」という記事を引用し、「戦争止めてるじゃん」「高市総理が戦争止めてんじゃねーか！」といった投稿が拡散した(例1、例2)。検証する理由拡散した投稿には、5200件以上リポストされ、683万回以上表示されているものもある。投稿について「言葉でも抑止力なるということですね」「サナ、戦争止めてくれた」というコメントの一方で「これ書き方どうなの？」という指摘もある。検証過程高市首相、台湾有事を「存立危機事態になりうる」と発言 2025年11月7日、高市首相は衆院予算委員会で、台湾をめぐってどのような状況が、日本の「存立危機事態」にあたるのかという質問に「戦艦を使って、武力

日本のスーパーでムスリムが小便をまき散らす? 海外で何度も拡散している偽動画【ファクトチェック】

日本のスーパーの精肉売り場で小便をまき散らすムスリムがいたと主張する動画投稿が拡散しましたが、誤りです。動画の撮影場所はヨーロッパで、日本ではありません。制作者が偽動画と認めたという報道もあります。この動画は2023年から、欧州の極右政党の政治家らによって、反イスラムや反移民の文脈で投稿されています。検証対象拡散した言説 2026年3月12日、「日本のスーパー食肉店に　小便を撒き散らす　イスラム人」という投稿がＸで拡散した。検証する理由 3月17日現在、投稿は2800回以上リポストされ、表示は46.7万件を超える。投稿には「日本じゃないだろ」などの指摘もあるが、「捕まえて強制送還して下さい」や「店はこれで堂々とイスラム出禁にできるわけだね」など真に受けたコメントも多いため、検証する。検証過程動画の撮影地は欧州拡散した投稿には、スーパーの精肉売り場で商品に放尿しているように見える男性の後ろ姿が映った9秒の動画が付いている。動画では、撮影者と見られる男性が、オランダ語と英語で「おい、お前ちょっと過激すぎるだろ。豚肉を食べた

テクノロジーでいかに偽・誤情報に対処できるか/JFC記事・動画や関連記事【今週のファクトチェック】

生成AIによるディープフェイクの氾濫など、偽・誤情報問題は人間の検証だけでは全く手に負えなくなっているということは、これまでもこのニュースレターなどで何度も触れてきました。メディアリテラシー教育で一人ひとりの対処能力を引き上げること、法的な規制など様々な対策を重層的に実施する必要があります。中でも重要な鍵の一つがテクノロジーを活用した対策です。しかし、開発には資金が必要ですし、売り物になるかはわからないとなると作り手も躊躇します。そこで総務省が予算をつけて実施したのが「インターネット上の偽・誤情報等への対策技術の開発・実証事業」。3月17日にその成果を発表するイベントが都内で開かれました。関連ニュースでも紹介しましたが、大企業だけでなく、大小のスタートアップ企業など事業に採択された14の企業や団体が偽・誤情報の検知や検証や分析、また、教育ツールなどを発表しました。こういったツールは使われて初めて意味があります。残念ながらテクノロジーによって情報環境が悪化していく中で、どのようにしてより良い社会のためのテクノロジーを開発・普及させていくのか。ファクトチェッ

ファクトチェック講座

JFCファクトチェック講師養成講座　申込はこちら

日本ファクトチェックセンター（JFC）は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。次回の開講は4月25日（土）午前10時~11時30分で、お申し込みはこちら。 https://jfcyousei0425.peatix.com 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。受講生には教材を提供デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的にどのような

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター（JFC）は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。理論編と実践編の中身理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です（2024年度中は受験料1000円、2025年度から2000円）。合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

JFCファクトチェッカー認定試験

日本ファクトチェックセンター（JFC）はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。拡散する偽・誤情報から身を守るために偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した2万人を対象とする調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座（YouTube, 記事）は、2万人調査を元に偽・誤情報の拡散経路や