なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】

なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】
✉️
日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら

2024年3月4日-3月10日のファクトチェック週報です。急増するなりすましアカウントに新しい手口が登場しています。ゼレンスキー大統領やバイデン大統領など国のトップを貶める偽情報が引き続き拡散。アメリカでは選挙に影響を与えうる画像がAIによって容易に生成できると指摘されています。

JFCのファクトチェック記事

「(動画)金色の衣装でダンスを披露するゼレンスキー大統領」は誤り

ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。

「(動画)金色の衣装でダンスを披露するゼレンスキー大統領」は誤り 合成された偽動画【ファクトチェック】
ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。 検証対象 2024年2月26日、ウクライナのゼレンスキー大統領が金色の衣装でダンスを踊る動画付き投稿が拡散した。投稿には英語で「この男が私たちの何十億ドルという税金を持ち去ったなんて信じられません」「私たちの指導者はなんて愚かなのでしょうか?」と付けられている。 2024年3月1日現在、このポストは6400回以上リポストされ、表示回数は156万件を超える。投稿について「ゼレンスキーの芸人時代?」というコメントの一方で「別人」と指摘する声もある。 検証過程 Google画像検索は、画像の一部を選択して検索することができる。日本ファクトチェックセンター(JFC)は、顔が合成されている可能性を考慮し、衣装が写る部分だけを選択して検索をした。 検索結果として表示されたのはプロフィール欄にアルゼンチンの振付師でダンサーとある「P

「(画像)GoogleがGmailを2024年8月1日に終了予定」は誤り

「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。

「(画像)GoogleがGmailを2024年8月1日に終了予定」は誤り メール画像を改変 【ファクトチェック】
「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。 検証対象 2024年2月23日、Gmailのサービスが2024年8月1日に終了することを知らせるメールのスクリーンショットがXで拡散した(例1、例2、例3)。例1は2月29日現在、874万回以上の表示回数と3600件以上のリポストを獲得している。 この言説は、AFP、Forbes JAPANやRapplerがファクトチェックをし、「誤り」と判定している。 検証過程 言説の拡散を受けて、Google社は2024年2月23日にXで「Gmail is here to stay.」(Gmailは今後も存続します)と投稿し、サービス終了とする言説を公式に否定。投稿のトップにピン留めをしている。 「Google is sunsetting Gmail(GoogleはGmailを終了させる)」という内容の拡散したスクリーンショットは、Googleがユーザーに送信したメールを加工したも

「福岡銀行、3月14日の取り付け騒ぎに備え行員に通知」は誤り

「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。

「福岡銀行、3月14日の取り付け騒ぎに備え行員に通知」は誤り 誤情報繰り返すアカウント、福岡銀行も否定【ファクトチェック】
「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。 検証対象 2024年3月3日、「福岡銀行から、3月14日に取り付け騒ぎが起こることに備えて行員に通知がありました。これは噂でも推測でもない。私を信じてください!」との投稿が拡散した。 この投稿は2024年3月4日時点で1200回リポストされ、表示回数は130万回を超えている。 返信欄には「クレカも使えなくなると困るよね😿💳」「福岡銀行が事態に備えているというのは聞いて安心しました」との声の一方、「公式が否定してるで」「何故この状況で取り付け騒ぎですか?仮に本当だっとしてインサイダーになりませんか??(原文ママ)」と疑問を呈する投稿もある。 検証過程 この投稿の拡散を受け、福岡銀行はウェブサイトで「当行が3月14日に取り付け騒ぎが起こることに備えて行員に通知をしたという内容の投稿がございますが、そのような事実はございません」「また、経営・資金繰

著名人なりすましアカウントで広がる新しい手口 リプライで紛れ込む偽物に注意

著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。

著名人なりすましアカウントで広がる新しい手口 リプライで紛れ込む偽物に注意
著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。 作家や政治家など続々と標的に X(旧Twitter)上で、作家の門田隆将氏が3月6日に投稿した内容に「最近、いくつかの日本株を観察しました。上昇の変動が大きく、短期間で150%の利益を得ることができます」とリプライした投稿がある。このリプライを投稿したアカウントは門田氏と同じプロフィール画像、プロフィール欄、アカウント名だ。まるで本人が1つの投稿にリプライをつなげる形で投稿をする「ツリー状のリプライ」をしているように見える。 Yahoo!リアルタイム検索で同じような文言のX投稿を探すと、原口一博氏や鳩山由紀夫氏など、同じパターンで、著名人を名乗るなりすましアカウントが多数ヒットした(例1、例2、例3)。 偽アカウントによるリプライにはLINEの友達追加や投資を促すリンクが貼られ、こうした投稿は2024年

バイデン大統領「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいている」と発言は誤り

アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。

バイデン大統領「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいている」と発言は誤り AIによる偽動画【ファクトチェック】
アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。 検証対象 2024年3月4日、バイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」「あなたの国は小児性愛者の集団によって運営されている」と発言する動画が英語圏を中心に拡散した。 この投稿は2024年3月8日時点で1700回以上リポストされ、表示回数は65万件を超える。その後、日本語字幕付きの動画も拡散し、「ついに言いましたか」というコメントが付く一方で、「フェイク?」と指摘する投稿もある。 検証過程 拡散した動画は14秒間。バイデン大統領は英語で以下のように語っている。 「あなたのお金は偽物で、食べ物と水は汚染されており、全ての戦争は嘘に基づき、あなたの国は小児性愛者の集団によって運営されています。あなたはクソみたいな事に気を取られ、それについて何もすることができません」 この動画はいつ撮影されたものなのか。動画右上のロゴを元に

「沖縄都市モノレール(ゆいレール)の駅名表示は中国語の方が大きい」は不正確

沖縄都市モノレール(ゆいレール)の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。

「沖縄都市モノレール(ゆいレール)の駅名表示は中国語の方が大きい」は不正確 メイン表示は日本語が最も大きい【ファクトチェック】
沖縄都市モノレール(ゆいレール)の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。 検証対象 2024年3月4日、沖縄県那覇市にある、ゆいレールの県庁前駅のホームの写真とともに、「なんで日本語より中国語の方が大きいん?」と疑問を投げかけるポストが拡散した。587万の閲覧数があり、「日本語と英語だけでいいだろ」「どこの国って感じ」など共感する書き込みがある一方、「沖縄は観光客が多いから柱ごとに言語を書いているだけ」と、拡散したポストを「切り取りだ」と指摘するリポストもある。 同様の言説は5年前にも拡散。Jcastニュースが日本語より韓国語などの方が目立つ?、沖縄都市モノレール 駅名標に「違和感」の声(2019年02月4日付)」という記事を配信している。「海外からの乗客にも目立つようにしたから」という説明を紹介している。 検証過程 日本ファクトチェックセンター(JFC)はゆいレールを運行する沖縄都市モノレールに取材した

その他の関連記事

テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

NABLAS株式会社がテキスト情報のファクトチェックツールを開発し、提供を開始しました。生成AIによって誤情報/偽情報がさらに増えていく中で、人によるファクトチェックだけでは絶対に追いつきません。こういった技術の開発と普及は偽情報対策に不可欠です。

テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応
NABLAS株式会社のプレスリリース(2024年3月6日 10時00分)テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

生成AIが普及する中、どうやってフェイク画像から身を守るべきか?NIIが最新の研究結果を紹介

こちらは国立情報学研究所(NII)の研究についてPC Watchの記事です。偽画像や偽動画をどうやってテクノロジーで見破るか。こちらも生成AIで人の目では見分けられない偽映像が生まれてくる中で、不可欠な技術と言えます。

生成AIが普及する中、どうやってフェイク画像から身を守るべきか?NIIが最新の研究結果を紹介
国立情報学研究所(NII)は、2024年3月4日、「フェイクから身を守るには? ―創るAI vs 守るAI」と題した市民講座を、東京・一ツ橋の学術総合センターおよびオンラインで開催した。

「それって陰謀論じゃないですか?」闇の国家「ディープステート」を信じる著名人一人一人に会ってみたら…どうなった?

世界を支配するディープステート(闇の政府)が存在する、などのいわゆる「陰謀論」を語る著名人にインタビューした共同通信の記事です。元総務大臣で立憲民主党の原口一博衆院議員らが取材に応じています。

「それって陰謀論じゃないですか?」闇の国家「ディープステート」を信じる著名人一人一人に会ってみたら…どうなった? | 47NEWS
インターネットを通じて情報が手軽に得られるようになった一方で、根拠に乏しい「陰謀論」も拡散し、人々に…

リベラルと陰謀論とスピリチュアル ワクチンへの懐疑にはまる理由は

こちらは朝日新聞社のWithnewsから。この週報でも取り上げた注目の研究「人はなぜワクチン反対派になるのか」について紹介する記事です。研究チームの一人、鳥海不二夫・東京大教授へのインタビューのほか、ワクチン懐疑派との親和性がある参政党にも取材しています。

リベラルと陰謀論とスピリチュアル ワクチンへの懐疑にはまる理由は
「人はなぜワクチン反対派になるのか」。東京大学がそんなタイトルで発表したプレスリリースが、X(旧ツイッター)で話題になりました。陰謀論やスピリチュアルへの関心が「ワクチン懐疑論」への入り口になり、懐疑論をとなえる参政党への支持拡大にもつな…

選挙に関わる偽画像は容易に作成できる

ネット上の誤・偽情報、ヘイト対策に取り組むアメリカの非営利団体「CCDH​」が、AIツールに防止対策があっても選挙に影響を与えうる画像が容易に作れるとテスト結果を公表しました。BBCのリポートです。

AI can be easily used to make fake election photos - report
Researchers said they were able to evade rules against “misleading content” more than 40% of the time.

“京都 実相院が売りに”虚偽情報 SNSで拡散 寺が注意呼びかけ

鎌倉時代の古刹・実相院が売りに出されているという虚偽の投稿が拡散、実相院に問い合わせが相次いだとNHKが報じています。

“京都 実相院が売りに”虚偽情報 SNSで拡散 寺が注意呼びかけ | NHK
【NHK】京都市左京区にある寺院「実相院」が売りに出されているという虚偽の情報がSNSで拡散され、寺に問い合わせが相次ぐ事態となり…

検証手法や判定基準については、JFCファクトチェック指針をご参照ください。検証記事を広げるため、SNSでの拡散にご協力ください。XFacebookYouTubeInstagramのフォローもお願いします。毎週、ファクトチェック情報をまとめて届けるニュースレター登録はこちらからどうぞ。

また、こちらのQRコード(またはこのリンク)からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を

もっと見る

「腎臓学会が発表した紅麹健康被害の病名は新型コロナワクチンの副反応そのもの」は誤り 添付された読売記事は無関係で学会も否定【ファクトチェック】

「腎臓学会が発表した紅麹健康被害の病名は新型コロナワクチンの副反応そのもの」は誤り 添付された読売記事は無関係で学会も否定【ファクトチェック】

小林製薬の紅麹問題で、日本腎臓学会が発表した健康被害の主な症状が新型コロナワクチンの副反応と同一だと主張する言説が読売新聞の記事であるかのように拡散しましたが、誤りです。読売新聞のロゴを使い、実際の報道内容とは異なります。また、日本腎臓学会も否定しています。 検証対象 小林製薬の紅麹を含む健康食品を摂取した後に腎臓の病気などを発症した問題で、2024年4月2日、「腎臓学会は確実に主因は、コロナワクチンだと気づいているね」という投稿がX(旧Twitter)で拡散した。投稿には読売新聞のロゴと記事へのリンクとともに「腎臓学会が発表した紅麹健康被害の病名は、新型コロナワクチンの副反応そのものだった」という文言がある。 この投稿は2024年4月12日時点で26万件以上表示され、6000件以上のリポストを獲得している。 検証過程 添付された読売新聞のリンクは、2024年4月1日に日本腎臓学会が公表した「『紅麹コレステヘルプに関連した腎障害に関する研究』アンケート調査(中間報告)」についての記事だ。 「紅麹健康被害、病名は尿細管の『間質性腎炎』『壊死』など…新た

By 日本ファクトチェックセンター(JFC)
小林製薬社長が「『ワクチン被害のスケープゴートにされた』と発言」は誤り このような発言はしていない【ファクトチェック】

小林製薬社長が「『ワクチン被害のスケープゴートにされた』と発言」は誤り このような発言はしていない【ファクトチェック】

小林製薬の紅麹問題で記者会見した小林章浩社長が「『小林製薬はワクチン被害のスケープゴートにされた』と発言した」とする言説が拡散しましたが、誤りです。会見は動画で公開されていますが、そのような発言はありません。 検証対象 紅麹の成分を含む健康食品を摂取した人が腎臓の病気などを発症した問題で、2024年4月2日、小林製薬の小林社長が、「日本政府と厚労省は、ワクチン被害のスケープゴートとして、我が社を利用し、潰しにかかっています」と発言したとする投稿が拡散した。 この投稿は4月4日時点で、140万回以上の表示回数と1万件以上のリポストを獲得している。「エイプリルフール」というコメントの一方で「応援してます!」「素晴らしい」といった反応もある。賛意を示すコメントの多くはワクチンに批判的な人たちから出ている。 検証過程 検証対象のポストは、投稿の3分後に編集されている。編集後は、「※注意 最後までちゃんと読んでね!」という文字が加わった(下の画像の赤枠で囲まれた部分)。 文末には、「元記事のリンクに真実あり」や「毎年エイプリールフールに騙される」といったハッシ

By 日本ファクトチェックセンター(JFC)
能登半島地震3ヶ月、台湾地震、国際ファクトチェック調査の結果、偽広告への対応など【注目のファクトチェック】

能登半島地震3ヶ月、台湾地震、国際ファクトチェック調査の結果、偽広告への対応など【注目のファクトチェック】

✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 2024年4月1-7日のファクトチェック週報です。能登半島地震の発生から3ヶ月、4月3日に台湾地震が起きましたが、過去の津波の映像や関係のない画像とともに様々な偽の情報が拡散しました。誤情報の拡散は、生物多様性の縮小、大気・水・土壌の汚染、気候変動と並んで地球規模の危機だという論考をオーストラリアの王立ビクトリア協会が出しました。 偽情報対策シンポを4月16日開催 YouTubeで配信 JFCは国際大学グローバルコミュニケーションセンター(GLOCOM)と協力し、日本における偽情報の現状と対策について調べる2万人規模の調査を実施しました。そこで得られた知見を紹介し、関係者で議論するシンポジウムを都内で4月16日に開催いたします。 GLOCOMの山口真一准教授による調査の解説や、メディア、ファクトチェック団体、研究者、公的機関、プラットフォームの枠を超え

By 宮本聖二, 古田大輔(Daisuke Furuta)
台湾地震で過去動画や人工地震説などの偽情報が拡散【ファクトチェックまとめ】

台湾地震で過去動画や人工地震説などの偽情報が拡散【ファクトチェックまとめ】

台湾での最大震度6の地震をめぐり、発生直後から偽情報が大量に拡散しています。建物倒壊や津波などの過去動画、「原因は人工地震」など、大きな地震のたびに拡散します。 検証対象 2024年4月3日の台湾地震の直後から拡散した偽情報・誤情報をいくつか例示する。 1 ビルの倒壊映像? 4月3日、「ロシアのテレグラムでは『今回の地震は中国が救出作戦を開始し、島を再統一するチャンスである』と伝えた」という書き込みと共にビルが倒壊する映像が投稿され、表示数は98万件を超えた。 2 気象庁が「人工地震」とバラす? 4月4日、「人工地震は存在する事を気象庁がバラしちゃいました」という言説が拡散した。表示回数は119万件を超える。 3 沖縄からプライベートジェットで避難? 台湾地震の影響で、日本の沖縄本島から宮古島、八重山地方にも一時津波警報が発表された。警報発令を受けて、那覇空港の滑走路上の航空機の画像と共に「こんな時お偉いさん達はプライベートジェットで緊急避難か」という言説が投稿された。4月5日現在、この投稿は削除されている。 検証過程 ビルが倒壊する

By 日本ファクトチェックセンター(JFC)