中道改革連合の街頭演説会に集まった聴衆の動画はAI生成? Grokによる不確かな判定【♯衆院選ファクトチェック】

中道改革連合の街頭演説会に集まった聴衆の動画はAI生成? Grokによる不確かな判定【♯衆院選ファクトチェック】

中道改革連合の街頭演説会に集まった聴衆の動画はAI生成だという投稿が拡散しましたが、誤りです。同日にほかの角度から撮影された画像や動画から、多くの聴衆が集まっている様子が確認できます。AI生成だという指摘はGrokによるものでしたが、判定を間違えることがあります。

検証対象

拡散した投稿

2026年2月1日、中道改革連合のサポーターアカウントが街頭演説会に集まった聴衆の動画をXに投稿した。動画について、X社のAI「Grok」が「これはAI生成動画ですか?」という質問に対し「これはAI生成動画のようです」と回答している。

検証する理由

この回答は700件以上リポストされている。そのほかにも「まさかAI使ったりしてないよね」「明らかに加工された動画」という指摘がついている(例1、例2)。

また、Grokの検証をもとにしたコミュニティノートもついた(2月3日午後5時40分現在、非表示)。

Grokの検証では、群衆の動きが不自然、現実の公園サイズと矛盾、音声が時折人工的に聞こえるといった理由からAIの生成動画と結論付けている。AIによる検証は間違っていることも多いが、信じる人もいるため、検証する。

検証過程

動画は福岡・警固公園での街頭演説

動画は、2月1日に福岡市中央区の警固公園で開かれた中道改革連合の街頭演説の様子だ。九州公明党の公式Youtubeチャンネルがライブ配信のアーカイブを公開している(【公式】九州公明党ちゃんねる.”中道改革連合Youth街頭演説会 2月1日(日)12時スタート”)。

Xに投稿されたのは、この街頭演説に集まった聴衆を、演台に立った中道改革連合・共同政務調査会長の岡本みつなり氏が自撮り棒を使って撮影しているものだ。岡本氏も「あの場所で、この映像を撮った本人です」と投稿している。

別角度からの動画でも大勢の聴衆

Youtubeアーカイブの動画は、演台を下や横から撮影している。29:27時点で、岡本氏が自撮り棒にスマートフォンをつけて聴衆をバックに動画を撮影する様子を確認することができる。

その際、映像に拡散した動画と同じく大勢の聴衆が集まっている様子が映っている。

AIによる画像や動画の検証はまだ発展途上

拡散したGrokによる検証は「群衆の動き」「警固公園の実際の規模」「他の投稿で類似のAIフェイク言及」といった根拠からAI生成と結論付けている。

日本ファクトチェックセンター(JFC)がGrokに改めて「この動画はAI生成?」と質問したところ、「イベントは本物ですが、この特定の動画はプロパガンダ目的でAIを使って群衆を水増しした可能性が強い」と回答した。

しかし、JFCがGoogleの生成AI「Gemini」に「この動画はAI生成?」と質問したところ「この動画は実際に撮影された実写映像である可能性が極めて高い」と回答した。OpenAIの「ChatGPT」に「この動画はAI生成?」と聞くと「この動画がAI生成かどうかを 『断定』できる証拠は見つかっていません」と回答した。

3社のAIで全て違う答えとなっている。AIによる判定は完璧ではなく、間違いも含まれる。JFCも生成AIによる画像や動画の検証の際にツールを利用することはあるが、判定の参考にとどめている。

判別ツールの一つ「HIVE MODERATION」は、今回の動画について「AI生成コンテンツやディープフェイクコンテンツを含まない可能性が高い」と判定した。

判定

中道の街頭演説に大勢の聴衆が集まったという動画に対し、Grokの検証を用いて「AI生成」と指摘する投稿が拡散した。しかし、Grokによる検証だけでは根拠不十分で、Geminiなど他のAIモデルの判定結果とも矛盾している。また、2月1日の街頭演説には、多くの人が集まっている様子を別角度からも確認することができる。よって、誤りと判定した。

あとがき

生成AIを情報の確認に利用することで、様々な角度から情報を調べることができます。特にXでは「@grok ファクトチェックして」と依頼するユーザーが多くいます。

手軽に使えるツールですが、完璧ではありません。間違いが含まれることも多く、最終的に自分自身で確認することが必要不可欠です。

検証:木山竣策
編集:古田大輔


判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード(またはこのリンク)からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。

もっと見る

巧妙な詐欺メールに備えるために/JFC記事・動画や関連記事【今週のファクトチェック】

巧妙な詐欺メールに備えるために/JFC記事・動画や関連記事【今週のファクトチェック】

AIを活用したと見られる不正アクセスによって、大量の個人情報の流出が相次ぎ、「詐欺メールが届いた」という報告もSNSで広がっています。詐欺メールは実在する公的機関や企業の名前やロゴを用いた巧妙なもので、誰のもとにも届きます。手口をまとめた記事がありますので、参考にしてください。 今週のファクトチェックまとめです。 ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 今週のお知らせ 日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は11月29日(日)午後4時~5時30分で、お申し込みはこちら。 日本ファクトチェックセンター(JFC) ファクトチェック講師養成講座 11月29日(日)開催分日本ファクトチェックセンター

By 日本ファクトチェックセンター(JFC)
個人情報やカード情報、企業の情報漏洩を狙う偽メール・偽サイトに注意 共通する6つの手口は?【プレバンキング】

個人情報やカード情報、企業の情報漏洩を狙う偽メール・偽サイトに注意 共通する6つの手口は?【プレバンキング】

2026年夏以降、不正アクセスによる個人情報の大規模な流出が相次いでいます。また、SNSでは「偽メールが届いた」などの報告が多数投稿されています。 日本ファクトチェックセンター(JFC)は、カード会社や宅配業者を装って個人情報やカード情報を盗み取ろうとする偽メールについて、繰り返し注意を呼びかけてきました。同様の事例は、企業や団体名を変えて、繰り返し広がっています。今回は、これまで検証してきた事例に共通する6つの「手口」を紹介します。 この記事は、偽・誤情報の手口を知ることで、同様の情報を目にしたときに騙されにくくする「プレバンキング」という予防的な取り組みです。詳しくは、JFC用語解説「プレバンキング」をご覧ください。 広がりやすい6つの手口 1. 実在の企業になりすます カード会社や宅配業者など、利用者の多い企業の名前やロゴを使って、公式の通知に見せかける手口です。 2026年10月、三井住友カードを名乗り「お客さまのアカウントに異常な利用を検知いたしました」という偽メールが確認されました。本文には同社のロゴや「Vpassで利用明細を確認」という

By 木山竣策(Shunsaku Kiyama)
セゾンカードを名乗る偽メールが拡散 送信元は不正アクセス発覚の「アララ」【詐欺注意】

セゾンカードを名乗る偽メールが拡散 送信元は不正アクセス発覚の「アララ」【詐欺注意】

セゾンカードを名乗り、「メルカリで25万円余りの利用があったが、決済は完了していない」という文面で、別のリンクへ誘導する偽メールが確認されています。送信元は、第三者による不正アクセスが発覚したメール配信サービス「アララメッセージ」で、見分けにくいため注意が必要です。 偽メールの内容は 2026年10月29日、JFC編集部のメンバーのもとにセゾンカードを名乗るメールが届いた。 差出人の表示名は「セゾンカード」、件名は「利用内容確認のご依頼」。本文にはセゾンカードのロゴとともに「CARD USAGE NOTICE」「利用内容の確認」と記され、利用先「メルカリ」、利用金額「254,100円」と表示されている。 末尾には「利用内容確認の回答はこちら(所要時間:30秒)」というボタンがあった。高額な利用を示して不安をあおり、リンクボタンを押させようとする手口だ。 2026年10月末、類似したメールを受け取ったという投稿がX上にも散見された。編集部のメンバーへのメールでは、利用先がメルカリとなっていたが、ヨドバシカメラや楽天市場などの他サービスが利用先として表示され

By 木山竣策(Shunsaku Kiyama)
富山県知事が「県民をインド人に置き換える」と発表? そのような発表はない【ファクトチェック】

富山県知事が「県民をインド人に置き換える」と発表? そのような発表はない【ファクトチェック】

「富山県知事が、県民をインド人に置き換えると発表した」「義務を課し権利を制限する『多文化共生条例』でがんじがらめにした上で、外国人を受け入れる」と主張する投稿が拡散しましたが、誤りです。富山県・新田八朗知事はそのような発表をしていません。県の多文化共生条例の素案には、「県民は、多文化共生推進に協力するよう努めるものとする」とありますが、努力規定で、義務を課したり権利を制限する内容ではありません。 検証対象 拡散した言説 2026年10月24日、「【悲報】県民をインド人に置き換えると発表した富山県知事」「義務を課し権利を制限する『多文化共生条例』でがんじがらめにした上で、外国人を受け入れる」などと主張する投稿がXで拡散した。 同一のアカウントが新田知事の10月19日の投稿写真を一部加工したうえで引用し、批判を繰り返している(例1,2)。 検証する理由 11月5日現在、投稿は多いもので7900回以上リポストされ、表示は159万件を超える。 投稿には「堂々の売国奴宣言、恐れ入る…」「つまり日本人差別をし、富山県知事は日本を売り渡す気なんだね」など、真に

By 根津 綾子(Ayako Nezu)

ファクトチェック講座

JFCファクトチェック講師養成講座 申込はこちら

JFCファクトチェック講師養成講座 申込はこちら

日本ファクトチェックセンター(JFC)は、ファクトチェックやメディア情報リテラシーに関する講師養成講座を月に1度開催しています。講座はオンラインで90分間。修了者には認定バッジと教室や職場などで利用可能な教材を提供します。 次回の開講は11月29日(日)午後4時~5時30分で、お申し込みはこちら。 日本ファクトチェックセンター(JFC) ファクトチェック講師養成講座 11月29日(日)開催分日本ファクトチェックセンター(JFC)による講師養成講座です。 講師養成講座(オンラインで90分)を受講いただいた後、修了課題を提出された方には、教室や職場などで利用可能な教材の提... powered by Peatix : More than a ticket.Peatix 受講条件はファクトチェッカー認定試験に合格していること。講師養成講座は1回の受講で修了となります。 受講生には教材を提供 デマや不確かな情報が蔓延する中で、自衛策が求められています。「気をつけて」というだけでは、対策になりません。最初から騙されたい人はいません。誰だって気をつけているのに、誤っ

By 古田大輔(Daisuke Furuta)
理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

理論から実践まで学べるJFCファクトチェック講座 20本の動画と記事を一挙紹介

日本ファクトチェックセンター(JFC)は、YouTubeで学ぶ「JFCファクトチェック講座」を公開しました。誰でも無料で視聴可能で、広がる偽・誤情報に対して自分で実践できるファクトチェックやメディアリテラシーの知識を学ぶことができます。 理論編と実践編の中身 理論編では、偽・誤情報の日本での影響を調べた2万人調査の紹介や、間違った情報を信じてしまう背景にある人間のバイアス、大規模に拡散するSNSアルゴリズムなどを解説しています。 実践編では、画像や動画や生成AIなど、偽・誤情報をどのように検証したら良いかをJFCが検証してきた事例から具体的に学びます。 JFCファクトチェッカー認定試験を開始 2024年7月29日から、これらの内容について習熟度を確認するJFCファクトチェッカー認定試験を開始します。誰でもいつでも受験可能です(2024年度中は受験料1000円、2025年度から2000円)。 合格者には様々な技能をデジタル証明するオープンバッジ・ネットワークを活用して、JFCファクトチェッカーの認定証を発行します。 JFCファクトチェッカー認定試験

By 古田大輔(Daisuke Furuta)
JFCファクトチェッカー認定試験

JFCファクトチェッカー認定試験

日本ファクトチェックセンター(JFC)はJFCファクトチェッカー認定試験を開始します。YouTubeで公開しているファクトチェック講座から出題し、合格者に認定証を授与します。 拡散する偽・誤情報から身を守るために 偽・誤情報の拡散は増える一方で、皆さんが日常的に使用しているSNSや動画プラットフォームに蔓延しています。偽広告や偽サイトへのリンクなどによる詐欺被害も広がっています。 JFCが国際大学グロコムと実施した調査では、実際に拡散した偽・誤情報を51.5%の割合で「正しいと思う」と答え、「誤っている」と気づけたのは14.5%でした。 自分が目にする情報に大量に間違っているものがある。そして、誰もが持つバイアスによって、それが自分の感覚に近ければ「正しい」と受け取る傾向がある。インターネットはその傾向を増幅する。 だからこそ、ファクトチェックやメディアリテラシーに関する知識が誰にとっても必須です。 JFCファクトチェック講座と認定試験 JFCファクトチェック講座(YouTube, 記事)は、2万人調査を元に偽・誤情報の拡散経路や騙されない人の行動

By 日本ファクトチェックセンター(JFC)