AI - 日本ファクトチェックセンター (JFC)

その他

AIによる偽情報を世界の専門家はどう検証しているかインドDAUが語るディープフェイク最前線

実物と見紛う偽の映像や音声などをAIで作る「ディープフェイク」。世界中のファクトチェック団体が検証に取り組んでいますが、爆発的に増えている上に、技術の進歩で人間の目では見極めが難しいものも出てきています。ディープフェイクの検証に専門的に取り組んでいるインドの団体に話を聞きました。組織を超えた協力で生まれた「ディープフェイク分析班」インドで活動するDeepfakes Analysis Unit（ディープフェイク分析班、DAU）は2024年の総選挙をきっかけに誕生しました。ジャーナリストや技術者など、多様な人材の知見を生かして、インド国内のみならず、世界中のディープフェイクの検証をサポートしています。元々、インドには偽/誤情報対策に取り組むファクトチェック団体やメディアなど13団体（2025年6月現在）で構成する民間組織「Misinformation Combat Alliance（誤情報対策同盟、MCA）」がありました。 DAUはMCAの関連組織として、Metaの支援を受けて誕生。現在は3名の事務局と数名の技術チーム、インド内外の研究機関と連携して、解

文化・エンタメ

東京ガールズコレクション2025に旭日旗の衣装を着たモデル? 画像はAI生成【ファクトチェック】

東京ガールズコレクション2025で、旭日旗の衣装を着た大勢のモデルがランウェイを歩いているような画像が拡散しましたが、実際の画像ではなく誤りです。画像はAIで生成されたものです。検証対象 2025年4月8日、「東京ガールズコレクション2025 大和撫子から大和魂メッセージ🎌」という画像付き投稿が拡散した。 2025年5月23日現在、表示回数は19万回を超える。投稿について「これは大和魂」「いいなこれ」というコメントの一方で「AIらしいけど」という指摘もある。検証過程公式サイトの画像との比較『第40回　マイナビ東京ガールズコレクション2025　SPRING/SUMMER』は2025年3月1日に開催された。公式サイトから当日のステージの様子を確認することができる(東京ガールズコレクション「Stage」)。公式サイトの画像を確認すると、実際のステージは観客の目線より高い位置にある。しかし、拡散した画像にはステージ上のライトやモニターアンプなどがなく、ステージの高さが低いため観客の足がステージ上に乗っている。またステージの色も実際は黒なのに対

国際

中国のクルーズ船が大量の汚水を海洋投棄している動画? AI生成によるディープフェイク【ファクトチェック】

「中国のクルーズ船が大量の汚水を海洋投棄している」という動画が拡散しましたが、誤りです。この動画はAIで生成されています。検証対象 2025年5月19日、「中国のクルーズ船が大量の汚水を海洋投棄しているという動画」「本当なら緊急に国際会議を招集すべき重大案件」という投稿が拡散した。投稿は大型の船が汚水を廃棄しているような動画を引用している。 2025年5月20日現在、この投稿は1500件以上リポストされ、表示回数は38万回を超える。投稿について「ちょっと耐えられんね」「汚い」というコメントの一方で「AI生成画像」という指摘もある。検証過程 AI特有の不自然な描写動画の10秒時点を確認すると、クルーズ船の下側を撮影していたはずの動画にも関わらず、小さなクルーズ船(赤丸)が出現している。また、下の小型ボートに乗っている人物たちと比較すると不自然に大きい人物(青丸)が写っている。アメリカのコロラド州に拠点を置く2015年に設立されたファクトチェック団体「LEAD STORIES」は2025年5月にこの動画をファクトチェックし、「複数のAI検知ツ

文化・エンタメ

エジプト・ルクソール神殿近くで発見された謎の部屋の動画? 生成AIによるディープフェイク【ファクトチェック】

「（エジプトの）ルクソール神殿の近くで発見された謎の部屋」という動画が拡散しましたが、生成AIで作った「ディープフェイク」です。AIによく見られる特徴が複数あり、投稿者もAIで作ったと書いています。検証対象 2025年4月17日、「ルクソール神殿の近くで発見された謎の部屋」という動画つきの投稿が拡散した。 2025年4月21日現在、この投稿は700回以上リポストされ、表示回数は320万件を超える。投稿について、「AIすぎる」「カメラに写っている映像が背景と一致していない」という指摘や、AIによる動画生成を危惧するコメントが多数を占めていた。検証過程拡散した動画を日本ファクトチェックセンター（JFC）が確認したところ、光の当たり方やカメラに映る映像と背景の不一致など生成AIによる動画に見られる特徴がある。上の画像は、動画の24秒付近だが、松明の燃え方が不自然だ。また、手前の人物のカメラの映像と背景が一致していない上にカメラを持つ手が不自然だ。日本ファクトチェックセンター（JFC）は、拡散した動画の一部のスクリーンショットをGoogle画像検

災害

TikTokにミャンマー地震で大被害の動画? 「AIで作成」のラベルに注意【ファクトチェック】（修正あり）

ミャンマーで発生した大地震をめぐり、TikTokなどで被害を映したとされる動画が多数拡散していますが、生成AIによる「ディープフェイク」も含まれています。災害時には誤情報が拡散しやすいため、注意が必要です。検証対象 2025年3月28日に発生したミャンマー中部を震源とする大地震のあと、高層ビルや寺院、道路が倒壊する様子を映した映像がTiktokなどで拡散した（例1、例2、例3）。また、地震の前後を比較した動画も投稿されている（例4）。これらの動画はいずれもTikTokやその他のソーシャルメディアで拡散し、多くのインプレッションを獲得している。検証過程 AI特有の不自然さ検証対象の動画には、それぞれ不自然な点がある。例1の動画では、ビルから水が噴き出す様子が映っているが、水の流れ方が不自然だ。例4の動画では、ビルが倒壊する様子が映っているが、画像が人工的で、かつ、ビルの曲がり方も不自然だ。これらは生成AIによる画像や動画に多い特徴だ。すべての動画に「生成AIによる」とラベルいずれの動画にも「クリエイターがAI生成のラベルを付

生活

地下鉄御堂筋線の案内板表記が日本語と英語だけになった? 流行の#Grok 検証も誤り【ファクトチェック】(修正あり)

大阪の地下鉄御堂筋線で案内板の表記が「日本語と英語だけになった」という情報が拡散しましたが、誤りです。看板はもともと日本語と英語表記のみです。Xの生成AIにファクトチェックさせた人もいますが、その回答も間違っていました。検証対象 2025年4月1日「地下鉄御堂筋線　日本語と英語だけになりとても見やすくなった！」という投稿が拡散した。写真の案内板には電車が向かう方面が英語と日本語で書かれている。 2025年4月3日現在、この投稿は1万件以上リポストされ、表示回数は262万回を超える。投稿について「これで元通りです」「スッキリですね」というコメントの一方で「昔からここはそうだと思うが」という指摘もある。また、この投稿には別ユーザーがxAI社のAI「Grok」によるファクトチェックをリプライ形式で付けている。 Grokによるファクトチェックには「以前は他の言語（たぶん中国語や韓国語）もあったのが削られて、シンプルになってます」などと書かれている。検証過程画像はなんば駅上りホーム拡散した画像は後ろにローソンと電車が写っている。御堂筋線のローソ

災害

ミャンマー地震の被害の映像? 生成AIによるディープフェイクなど拡散【ファクトチェック】

ミャンマー中部で発生した大地震の映像とされる動画や画像が多数拡散していますが、その中には生成AIでつくられた「ディープフェイク」やミャンマーのものではない映像も多数混じっています。災害後には実際の被害と異なる映像が拡散するため、注意が必要です。検証対象 2025年3月28日にミャンマー中部で大地震が発生し、3000人以上の犠牲者が出ている。隣国のタイや中国でも大きな揺れがあった。地震発生後、被害の様子の映像や画像が数多く拡散した。例えば、巨大な亀裂が入った道路を上空から見た動画（例1）がある。同じ動画や、他の動画と組み合わせて編集されたもの、動画から切り出した静止画などが、TikTokやインスタグラム、Xなど複数のプラットフォームで拡散した（例2、例3）。また、宗教施設とみられる塔の間で建物が倒壊した様子を上空から見た動画も拡散した(例4、例5)。いずれの動画も複数のプラットフォームで拡散し、多くのインプレッションを獲得している。検証過程 AI特有の不自然さ検証対象の動画には、それぞれ不自然な点がある。例1の動画は、画面左下

国際

幼女を妻にするイスラム教徒の動画? AIによるディープフェイク【ファクトチェック】

「幼女を妻に娶るイスラム教徒」だとして、ムスリム風の男性と幼女が結婚しているような動画が拡散しました。この動画はAI生成によるディープフェイクで誤りです。動画にはAIによく見られる特徴がいくつもあります。同じ動画は海外でも拡散し、AIによる偽動画だと検証されています。検証対象 2025年3月24日、「こんな年端も行かない幼女を妻に娶る宗教がイスラム教です。こんな連中と共生が可能だと思いますか？イスラム教徒を日本に受け入れ続けると、そのうち日本人の幼女も性の対象や、伴侶の対象として見てくる危険性は高いと思いますね…」と主張する投稿が拡散した。投稿に添付された30秒間の動画には、ムスリムらしき男性と幼い女の子が手を繋ぎ、結婚式を挙げているような様子が映っている。投稿は5000件以上のリポストと480万回以上のインプレッションを獲得している。「子供の身体が危険なのでは？身体の成長から考えて普通に考えて無理でしょう」「新婦側が誰1人笑顔じゃ無いのに誰も疑問に思わないんだね…」などのコメントが付く一方で、AI生成だと指摘する声もある。検証過程拡散

国際

トランプ大統領とアルゼンチン、イタリア、ハンガリー首脳が同盟で記念写真? 報道なし、画像はAIか【ファクトチェック】

「アルゼンチンのミレイ大統領は、トランプ大統領、イタリアのメローニ首相、ハンガリーのオルバン首相などと同盟を結ぶ予定」という情報が4首脳の記念写真風の画像と共に拡散しましたが、誤りです。そのような報道はなく、添付された画像は首脳と不一致でAI画像の可能性が高いです。検証対象 2025年3月4日、「アルゼンチンのミレイ大統領は、トランプ大統領、イタリアのメローニ首相、ハンガリーのオルバン首相などと同盟を結ぶ予定」などと主張する投稿が拡散した。投稿に添付された画像には、　米国のドナルド・トランプ大統領（右から2人目）、イタリアのジョルジャ・メローニ首相（左から2人目）、アルゼンチンのハビエル・ミレイ大統領（左と右）に見える人物が写っているが、それぞれ実物とやや異なる。ハンガリーのオルバン・ヴィクトル首相は写っていない。 2025年3月6日現在、この投稿は3200件以上リポストされ、表示回数は77万回を超える。投稿について「いいなぁ」「この輪に入れなさそうだね」というコメントの一方で「ミレイ2人いない！？」という指摘もある。検証過程オルバン首相は

天皇陛下や上皇陛下がエプスタイン氏と写った画像？AI生成による捏造【ファクトチェック】

天皇陛下や上皇陛下が、性的な人身売買疑惑で問題となった米国の実業家ジェフリー・エプスタイン氏と共に写った画像が複数拡散しました。これらの画像は全て捏造されたもので、誤りです。X（旧Twitter）に搭載されている生成AI「Grok」によって生成された、実際には存在しないフェイク画像です。検証対象 2024年12月22日以降、天皇陛下や上皇陛下とエプスタイン氏が写った画像が複数拡散した（例1、例2、例3）。「AI生成画像」「合成」との指摘もあるが、「決定的な写真が出てきたよ」「公務でのエプ島訪問ですか？」などのコメントも寄せられており、この画像を本物だと信じてしまう人もいることを示している。検証過程ジェフリー・エプスタイン氏による未成年への性的搾取疑惑エプスタイン氏は米国の元実業家（故人）だ。児童を含む未成年への性的暴行・売春斡旋などに関与したとして2019年7月に逮捕・起訴されたのち、8月に拘置所内で死亡した（BBC）。エプスタイン氏をめぐっては、その幅広い交友関係からこれまでに多くの著名人が疑惑に関与しているのではないかとの情報が拡

年金支給開始年齢は80歳からにすべきと小泉進次郎氏が発言？　AIが誤情報を再生産【ファクトチェック】

「小泉進次郎氏が2024年9月に年金支給開始年齢は80歳からにすべきと発言した」という情報が拡散しましたが、誤りです。拡散した情報はAIが生成したもので、小泉氏の発言は年金受給開始の選択の幅を広げる内容のものでした。検証対象 2024年12月19日、「忘れっぽい日本国民の皆様のために貼っておきます」という文言と共に、「年金支給開始年齢は80歳からにするべきだと発言していた政治家は誰ですか？」という質問に生成AIが「小泉進次郎です」と回答したという情報が拡散した。 2024年12月20日現在、この投稿は8300件以上リポストされ、表示回数は224万回を超える。投稿について「元取れるの100歳超え」「AIが社会問題解決する」というコメントの一方で「少し調べればデマ」という指摘もある。検証過程以前にも拡散した誤情報をAIが再生産自民党の小泉進次郎氏が「年金支給開始年齢は80歳からにすべき」と発言したという情報は以前にも拡散している。自民党総裁選に絡んで2024年9月、日刊ゲンダイの記事をもとにしたまとめ記事などによる情報が拡散したもので、日本

国際

トランプ大統領、米証券取引委員会のゲンスラー委員長にクビを宣告?　動画はAIで生成【ファクトチェック】

2024年アメリカ大統領選のトランプ氏勝利に関連して「SEC委員長ゲンスラー氏、トランプ大統領にクビを宣告される」という言説が動画と共に拡散しましたが、誤りです。動画はAIで生成されたものです。検証対象 2024年11月6日、「【悲報】SEC委員長ゲンスラー氏、トランプ大統領にクビを宣告される😭」という動画つき投稿が拡散した。動画にはトランプ大統領が「You are fired（クビだ）」と書いた紙を米証券取引委員会（SEC)のゲイリー・ゲンスラー委員長に手渡す様子が映っている。この投稿の動画は、アメリカで拡散したものに日本語を加えて、新たに投稿されたものだ。日本語での投稿は2024年11月7日現在、150回以上リポストされ、表示回数は10万回を超える。投稿について「待ってました👏」「ナイストランプ」というコメントが付いている。検証過程ゲンスラー氏はバイデン大統領により任命されたSECの委員長。仮想通貨に対して否定的で規制を強める立場だ。トランプ大統領は大統領選で勝てばゲンスラー氏を解雇すると発言していた(ロイター)。拡散した言説の動画

政治

テレ朝でAIが「間違いなく不正選挙」「若者の多くは参政党にしか興味がない」などと発言？改変された動画【ファクトチェック】

2024年10月27日投開票の衆院選で当選した自民党の河野太郎氏について、テレビ朝日の選挙特番でAIが「間違いなく不正選挙」「若者の多くは参政党にしか興味がない」などと発言している動画が拡散しましたが、誤りです。AIへの質問と回答の音声を改変したもので、実際の放送とは異なります。検証対象 2024年10月29日、テレビ朝日の選挙特番「選挙ステーション」でコメンテーター役を務めたAIが「人工知能が選挙解析不正選挙確定と判定した」「人工知能が選挙不正を発見河野太郎の当選は不正です」などと発言する動画主張する動画が拡散した（例1、例2）。これらの投稿には「デマ」「フェイク動画」などの指摘もある。一方、「テレ朝の番組かな？主流メディアとしては、知られたくない回答内容だと思うが、良く放送したものと驚いた」「デジタル大臣のくせにAIにまで否定されてるの草超えて花畑」といったコメントが付いており、この動画を信じてしまう人が一定数いることを示している。検証過程動画に映る「AIコメンテーター」拡散した投稿は複数あるが、いずれも同じ49秒間の動画が

医療・健康

新型コロナワクチン「KOSTAIVE」はフィンランド語で「復讐」？フィンランド語には存在せず由来は別【ファクトチェック】

「新型コロナワクチンの名前『KOSTAIVE（コスタイベ）』はフィンランド語で『復讐』という意味」という言説が拡散しましたが、誤りです。フィンランド語に「kostaive」という単語は存在せず、「新型コロナを押さえ込む」という英語が由来です。検証対象 2024年9月19日、「コスタイベ（KOSTAIVE）→明治製菓ファルマの新型コロナワクチン／KOSTAIVE→フィンランド語で「復讐」という意味だそうで」という文言と、Google翻訳の画面を写したとみられる動画を添付した投稿が拡散した。この投稿は9月27日現在、37万回以上の閲覧回数と2400件以上のリポストを獲得している。検証過程新型コロナワクチンの定期接種で、これまでのmRNAワクチンに改良を加えたMeiji Seikaファルマのレプリコンワクチンの接種が2024年10月から新しく始まる。このワクチンの販売名が「コスタイベ筋注用」でアルファベットでは「KOSTAIVE」と表記される(独立行政法人医薬品医療機器総合機構）。 AI翻訳ツールはフィンランド語として翻訳 Google翻訳で

経済

柳井正氏が拘束された？投資を促す偽広告【ファクトチェック】

ユニクロの柳井正氏が何らかのスキャンダルで拘束されたかのような画像がYouTubeで広がっていますが、誤りです。画像は事実ではなく、リンク先はネットニュースを装い、読者を投資サイトへ誘導する偽広告です。検証対象ユニクロを運営するファーストリテイリングの柳井正会長兼社長が銃を持った当局者に両腕から拘束して連行される画像とともに「日本全国に衝撃を与えたスキャンダル」「これが彼のキャリアの終わりなのか」と書かれたYouTube広告が拡散した。このYouTube広告をクリックすると、「日本銀行が生放送での発言で柳井正さんを提訴」という記事が出てくる。広告のサムネイルとともに、柳井氏がなんらかのスキャンダルで逮捕・起訴されたように印象づける内容だ。検証過程リンク先は偽ニュースサイトこの記事が掲載されているページには、NTTドコモが運営する「gooニュース」のロゴがあり、記事提供元として「読売新聞オンライン」のロゴもある。しかし、内容を確認すると、二人の話し言葉が翻訳調で固く、不自然な会話になっている。話題も「Bit Aiのプラットフォームで1

政治

米大統領選、ハリス陣営が集会画像をAIで生成？パロディアカウントのネタ画像が拡散【ファクトチェック】

2024年のアメリカ大統領選に関連して、カマラ・ハリス陣営がAI画像を使って集会の出席者を偽造したという投稿が拡散していますが、誤りです。画像作成者はネタとして当該画像を作成していると説明しており、ハリス陣営が投稿したという根拠はありません。検証対象 2024年8月11日、「あなたの知らないアメリカnews【速報】驚いたことに、カマラ・ハリス陣営が AI を使って集会の出席者数を偽造していたことが発覚したようです。／よく見てください。／青い帽子をかぶった男は文字通り腕が3本ありようです。／#カマラ・ハリス選挙キャンペーンは偽モノ／#カマラ・ハリスの支持者は偽物」という文言とスタジアム会場に集まる人々とみられる画像を載せた投稿が拡散した。この投稿は8月14日現在、73万回以上の表示回数と2000件以上のリポストを獲得している。拡散したこの画像をめぐっては、国際ファクトチェックネットワーク（IFCN）加盟の米Lead Storiesによる記事、アラビア語圏のMisbarやスペイン語圏のNewtralによるファクトチェックがされている。いずれも、画像が生

AIによる偽情報を世界の専門家はどう検証しているか インドDAUが語るディープフェイク最前線