中道改革連合の街頭演説会に集まった聴衆の動画はAI生成? Grokによる不確かな判定【♯衆院選ファクトチェック】

中道改革連合の街頭演説会に集まった聴衆の動画はAI生成? Grokによる不確かな判定【♯衆院選ファクトチェック】

中道改革連合の街頭演説会に集まった聴衆の動画はAI生成だという投稿が拡散しましたが、誤りです。同日にほかの角度から撮影された画像や動画から、多くの聴衆が集まっている様子が確認できます。AI生成だという指摘はGrokによるものでしたが、判定を間違えることがあります。

検証対象

拡散した投稿

2026年2月1日、中道改革連合のサポーターアカウントが街頭演説会に集まった聴衆の動画をXに投稿した。動画について、X社のAI「Grok」が「これはAI生成動画ですか?」という質問に対し「これはAI生成動画のようです」と回答している。

検証する理由

この回答は700件以上リポストされている。そのほかにも「まさかAI使ったりしてないよね」「明らかに加工された動画」という指摘がついている(例1例2)。

また、Grokの検証をもとにしたコミュニティノートもついた(2月3日午後5時40分現在、非表示)。

Grokの検証では、群衆の動きが不自然、現実の公園サイズと矛盾、音声が時折人工的に聞こえるといった理由からAIの生成動画と結論付けている。AIによる検証は間違っていることも多いが、信じる人もいるため、検証する。

検証過程

動画は福岡・警固公園での街頭演説

動画は、2月1日に福岡市中央区の警固公園で開かれた中道改革連合の街頭演説の様子だ。九州公明党の公式Youtubeチャンネルがライブ配信のアーカイブを公開している(【公式】九州公明党ちゃんねる.”中道改革連合Youth街頭演説会 2月1日(日)12時スタート”)。

Xに投稿されたのは、この街頭演説に集まった聴衆を、演台に立った中道改革連合・共同政務調査会長の岡本みつなり氏が自撮り棒を使って撮影しているものだ。岡本氏も「あの場所で、この映像を撮った本人です」と投稿している。

別角度からの動画でも大勢の聴衆

Youtubeアーカイブの動画は、演台を下や横から撮影している。29:27時点で、岡本氏が自撮り棒にスマートフォンをつけて聴衆をバックに動画を撮影する様子を確認することができる。

その際、映像に拡散した動画と同じく大勢の聴衆が集まっている様子が映っている。

AIによる画像や動画の検証はまだ発展途上

拡散したGrokによる検証は「群衆の動き」「警固公園の実際の規模」「他の投稿で類似のAIフェイク言及」といった根拠からAI生成と結論付けている。

日本ファクトチェックセンター(JFC)がGrokに改めて「この動画はAI生成?」と質問したところ、「イベントは本物ですが、この特定の動画はプロパガンダ目的でAIを使って群衆を水増しした可能性が強い」と回答した。

しかし、JFCがGoogleの生成AI「Gemini」に「この動画はAI生成?」と質問したところ「この動画は実際に撮影された実写映像である可能性が極めて高い」と回答した。OpenAIの「ChatGPT」に「この動画はAI生成?」と聞くと「この動画がAI生成かどうかを 『断定』できる証拠は見つかっていません」と回答した。

3社のAIで全て違う答えとなっている。AIによる判定は完璧ではなく、間違いも含まれる。JFCも生成AIによる画像や動画の検証の際にツールを利用することはあるが、判定の参考にとどめている。

判別ツールの一つ「HIVE MODERATION」は、今回の動画について「AI生成コンテンツやディープフェイクコンテンツを含まない可能性が高い」と判定した。

判定

中道の街頭演説に大勢の聴衆が集まったという動画に対し、Grokの検証を用いて「AI生成」と指摘する投稿が拡散した。しかし、Grokによる検証だけでは根拠不十分で、Geminiなど他のAIモデルの判定結果とも矛盾している。また、2月1日の街頭演説には、多くの人が集まっている様子を別角度からも確認することができる。よって、誤りと判定した。

あとがき

生成AIを情報の確認に利用することで、様々な角度から情報を調べることができます。特にXでは「@grok ファクトチェックして」と依頼するユーザーが多くいます。

手軽に使えるツールですが、完璧ではありません。間違いが含まれることも多く、最終的に自分自身で確認することが必要不可欠です。

検証:木山竣策
編集:古田大輔


判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら

もっと見る

高市首相が「自動車税の廃止」を正式決定? ニュース映像を加工した偽画像【ファクトチェック】

高市首相が「自動車税の廃止」を正式決定? ニュース映像を加工した偽画像【ファクトチェック】

高市早苗首相が自動車税を廃止したと発表したかのような画像つきの投稿が拡散しましたが、誤りです。そのような発表はなく、画像は加工されたものです。 検証対象 2026年4月、「高市首相がついに『自動車税の廃止』」を正式決定」などの投稿が相次いだ(例1)。「高志市長が自動車税の廃止を正式に決定」と書いている投稿もあり、これは「高市首相」の誤記と思われる(例2)。 検証する理由 例1、例2の投稿には、ともに2枚の画像が添付されており、一見、テレビのニュース番組から切り出した画像に見える。2枚目の画像を使った投稿は、ほかにもある(例3、例4)。 これらの投稿をしたアカウントの一部は5月7日時点ですでに凍結されているが、XやThreadsなど、多くのSNSで同じ画像が拡散しているため検証する。 検証過程 拡散した画像の1枚目は「速報 自動車税を廃止へ!! 家計負担の大幅軽減で関連株に追い風!」と書かれたもので投資を促す内容だ。 2枚目は高市氏の発言を取り上げたニュースのスクリーンショットのような画像で、画像の左上にテレビ朝日系列ANNのロゴがあり、「高市総

By 木山竣策(Shunsaku Kiyama)
自動翻訳が偽・誤情報を国境を超えて拡散させる/JFC記事・動画や関連記事【今週のファクトチェック】

自動翻訳が偽・誤情報を国境を超えて拡散させる/JFC記事・動画や関連記事【今週のファクトチェック】

AIなど技術の発達が偽・誤情報の拡散状況を悪化させています。その事例の一つと言えるのが、自動翻訳による偽・誤情報の国境を超えた広がりです。 今週のファクトチェックの中には、米国のオバマ元大統領のX投稿が自動翻訳によって、まったく逆の意味で日本語化されていた事例を検証しました。 Xの自動翻訳はそれなりに正しく翻訳できていることもあり、便利な機能です。しかし、今回のように全く逆の意味になっていたり、日本語として意味が通じなかったりすることも多いです。また、もともとの外国語での投稿が、偽情報ばかりを流すアカウントによるものである場合、正確に翻訳されていても偽・誤情報であることに代わりありません。 悩ましいことに、そういった情報を日本の著名アカウントがシェアしてしまうこともあります。 自動翻訳は、翻訳自体に問題がある上に、間違った情報も翻訳して伝えている。そのことを理解したうえで使う必要があります。(古田大輔) ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容を

By 古田大輔(Daisuke Furuta)
北海道の林野火災で放火した中国人が逮捕された? 逮捕されたのは別の容疑【ファクトチェック】

北海道の林野火災で放火した中国人が逮捕された? 逮捕されたのは別の容疑【ファクトチェック】

北海道の林野火災について、「放火で中国人が逮捕された」という投稿が拡散しましたが、ミスリードで不正確です。中国籍の男が放火容疑で逮捕されたことは事実ですが、林野火災とは別のバス停への放火容疑です。 検証対象 拡散した投稿 4月29日、「やっぱり林野火災は放火だった!中国人逮捕された!テレビが報道してるよ!」という投稿が拡散した。 検証する理由 5月1日時点でこの投稿は4600件以上リポストされ、表示回数は393万回を超える。投稿について「岩手県の山火事も放火でしょう」「やっぱりね」というコメントの一方で「意味不明」という指摘もある。 検証過程 北海道の林野火災とは 北海道では、4月16日に北海道根室市で大規模な林野火災が発生した。この火災では約400ヘクタールが焼け、根室市が約350人に避難指示を発令した(FNNプライムオンライン.”大規模”野火”約400ヘクタール焼く…歯舞地区の約350人に避難指示―夜に入っても延焼中―火の勢いは衰えず―道の災害派遣要請を受け17日朝から自衛隊ヘリも空中消火活動へ<北海道根室市>”)。 消防庁によると、

By 木山竣策(Shunsaku Kiyama)
米国で新型コロナ対策を指揮したファウチ氏を逮捕? ファウチ氏の元側近を起訴【ファクトチェック】

米国で新型コロナ対策を指揮したファウチ氏を逮捕? ファウチ氏の元側近を起訴【ファクトチェック】

米国で新型コロナ対策を指揮したアンソニー・ファウチ氏が逮捕されたという投稿が拡散しましたが、誤りです。2026年4月28日、米司法省は、ファウチ氏の元側近デビッド・モレンス氏を連邦法違反の罪で起訴したと発表しましたが、5月1日現在、ファウチ氏本人が逮捕されたという発表も報道もありません。 検証対象 拡散した言説 2026年4月30日、「ファウチ博士逮捕」「 COVID-ウイルスに関する真実を隠蔽したとして逮捕」という文言付きの画像がXで拡散した。 検証する理由 5月1日現在、投稿は2100回以上リポストされ、表示は23.6万件を超える。 投稿には「ファウチじゃなくて、ヤツの仲間な」「補佐官ですね」などの指摘もあるが、「ファウチ・・全て噓」「やっとここまで来たね。次はビルゲイツ!!」など、真に受けた反応も多いため検証する。 検証過程 画像は米メディアの一面 拡散した画像は、2026年4月29日の米New York Post紙の一面を写したものだ(New York Post "Covers"April29,2026)。 上段は英国王夫妻の訪

By 根津 綾子(Ayako Nezu)

ファクトチェック講座

JFCファクトチェック講師養成講座 申込はこちら

JFCファクトチェック講師養成講座 申込はこちら

日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は5月16日(土)午前10時~11時30分で、お申し込みはこちら。 https://jfcyousei0516.peatix.com 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤った情報を信じてしまうところに問題があります。 JFCが国際大学グロコムと協力して実施した「2万人調査」では実に51.5%の人が誤った情報を「正しい」と答えました。一般に思われているよりも、人は騙されやすいという事実は、様々な調査で裏打ちされています。 JFCではこれらの調査をもとに、具体的にどのような

By 古田大輔(Daisuke Furuta)
理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

By 古田大輔(Daisuke Furuta)
JFCファクトチェッカー認定試験

JFCファクトチェッカー認定試験

日本ファクトチェックセンター(JFC)はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。 拡散する偽・誤情報から身を守るために 偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した2万人を対象とする調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。 自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。 だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座(YouTube, 記事)は、2万人調査を元に偽・誤情報の拡散経路や

By 日本ファクトチェックセンター(JFC)