なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】

なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】
✉️
日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら

2024年3月4日-3月10日のファクトチェック週報です。急増するなりすましアカウントに新しい手口が登場しています。ゼレンスキー大統領やバイデン大統領など国のトップを貶める偽情報が引き続き拡散。アメリカでは選挙に影響を与えうる画像がAIによって容易に生成できると指摘されています。

JFCのファクトチェック記事

「(動画)金色の衣装でダンスを披露するゼレンスキー大統領」は誤り

ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。

「(動画)金色の衣装でダンスを披露するゼレンスキー大統領」は誤り 合成された偽動画【ファクトチェック】
ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。 検証対象 2024年2月26日、ウクライナのゼレンスキー大統領が金色の衣装でダンスを踊る動画付き投稿が拡散した。投稿には英語で「この男が私たちの何十億ドルという税金を持ち去ったなんて信じられません」「私たちの指導者はなんて愚かなのでしょうか?」と付けられている。 2024年3月1日現在、このポストは6400回以上リポストされ、表示回数は156万件を超える。投稿について「ゼレンスキーの芸人時代?」というコメントの一方で「別人」と指摘する声もある。 検証過程 Google画像検索は、画像の一部を選択して検索することができる。日本ファクトチェックセンター(JFC)は、顔が合成されている可能性を考慮し、衣装が写る部分だけを選択して検索をした。 検索結果として表示されたのはプロフィール欄にアルゼンチンの振付師でダンサーとある「P

「(画像)GoogleがGmailを2024年8月1日に終了予定」は誤り

「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。

「(画像)GoogleがGmailを2024年8月1日に終了予定」は誤り メール画像を改変 【ファクトチェック】
「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。 検証対象 2024年2月23日、Gmailのサービスが2024年8月1日に終了することを知らせるメールのスクリーンショットがXで拡散した(例1、例2、例3)。例1は2月29日現在、874万回以上の表示回数と3600件以上のリポストを獲得している。 この言説は、AFP、Forbes JAPANやRapplerがファクトチェックをし、「誤り」と判定している。 検証過程 言説の拡散を受けて、Google社は2024年2月23日にXで「Gmail is here to stay.」(Gmailは今後も存続します)と投稿し、サービス終了とする言説を公式に否定。投稿のトップにピン留めをしている。 「Google is sunsetting Gmail(GoogleはGmailを終了させる)」という内容の拡散したスクリーンショットは、Googleがユーザーに送信したメールを加工したも

「福岡銀行、3月14日の取り付け騒ぎに備え行員に通知」は誤り

「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。

「福岡銀行、3月14日の取り付け騒ぎに備え行員に通知」は誤り 誤情報繰り返すアカウント、福岡銀行も否定【ファクトチェック】
「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。 検証対象 2024年3月3日、「福岡銀行から、3月14日に取り付け騒ぎが起こることに備えて行員に通知がありました。これは噂でも推測でもない。私を信じてください!」との投稿が拡散した。 この投稿は2024年3月4日時点で1200回リポストされ、表示回数は130万回を超えている。 返信欄には「クレカも使えなくなると困るよね😿💳」「福岡銀行が事態に備えているというのは聞いて安心しました」との声の一方、「公式が否定してるで」「何故この状況で取り付け騒ぎですか?仮に本当だっとしてインサイダーになりませんか??(原文ママ)」と疑問を呈する投稿もある。 検証過程 この投稿の拡散を受け、福岡銀行はウェブサイトで「当行が3月14日に取り付け騒ぎが起こることに備えて行員に通知をしたという内容の投稿がございますが、そのような事実はございません」「また、経営・資金繰

著名人なりすましアカウントで広がる新しい手口 リプライで紛れ込む偽物に注意

著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。

著名人なりすましアカウントで広がる新しい手口 リプライで紛れ込む偽物に注意
著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。 作家や政治家など続々と標的に X(旧Twitter)上で、作家の門田隆将氏が3月6日に投稿した内容に「最近、いくつかの日本株を観察しました。上昇の変動が大きく、短期間で150%の利益を得ることができます」とリプライした投稿がある。このリプライを投稿したアカウントは門田氏と同じプロフィール画像、プロフィール欄、アカウント名だ。まるで本人が1つの投稿にリプライをつなげる形で投稿をする「ツリー状のリプライ」をしているように見える。 Yahoo!リアルタイム検索で同じような文言のX投稿を探すと、原口一博氏や鳩山由紀夫氏など、同じパターンで、著名人を名乗るなりすましアカウントが多数ヒットした(例1、例2、例3)。 偽アカウントによるリプライにはLINEの友達追加や投資を促すリンクが貼られ、こうした投稿は2024年

バイデン大統領「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいている」と発言は誤り

アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。

バイデン大統領「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいている」と発言は誤り AIによる偽動画【ファクトチェック】
アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。 検証対象 2024年3月4日、バイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」「あなたの国は小児性愛者の集団によって運営されている」と発言する動画が英語圏を中心に拡散した。 この投稿は2024年3月8日時点で1700回以上リポストされ、表示回数は65万件を超える。その後、日本語字幕付きの動画も拡散し、「ついに言いましたか」というコメントが付く一方で、「フェイク?」と指摘する投稿もある。 検証過程 拡散した動画は14秒間。バイデン大統領は英語で以下のように語っている。 「あなたのお金は偽物で、食べ物と水は汚染されており、全ての戦争は嘘に基づき、あなたの国は小児性愛者の集団によって運営されています。あなたはクソみたいな事に気を取られ、それについて何もすることができません」 この動画はいつ撮影されたものなのか。動画右上のロゴを元に

「沖縄都市モノレール(ゆいレール)の駅名表示は中国語の方が大きい」は不正確

沖縄都市モノレール(ゆいレール)の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。

「沖縄都市モノレール(ゆいレール)の駅名表示は中国語の方が大きい」は不正確 メイン表示は日本語が最も大きい【ファクトチェック】
沖縄都市モノレール(ゆいレール)の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。 検証対象 2024年3月4日、沖縄県那覇市にある、ゆいレールの県庁前駅のホームの写真とともに、「なんで日本語より中国語の方が大きいん?」と疑問を投げかけるポストが拡散した。587万の閲覧数があり、「日本語と英語だけでいいだろ」「どこの国って感じ」など共感する書き込みがある一方、「沖縄は観光客が多いから柱ごとに言語を書いているだけ」と、拡散したポストを「切り取りだ」と指摘するリポストもある。 同様の言説は5年前にも拡散。Jcastニュースが日本語より韓国語などの方が目立つ?、沖縄都市モノレール 駅名標に「違和感」の声(2019年02月4日付)」という記事を配信している。「海外からの乗客にも目立つようにしたから」という説明を紹介している。 検証過程 日本ファクトチェックセンター(JFC)はゆいレールを運行する沖縄都市モノレールに取材した

その他の関連記事

テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

NABLAS株式会社がテキスト情報のファクトチェックツールを開発し、提供を開始しました。生成AIによって誤情報/偽情報がさらに増えていく中で、人によるファクトチェックだけでは絶対に追いつきません。こういった技術の開発と普及は偽情報対策に不可欠です。

テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応
NABLAS株式会社のプレスリリース(2024年3月6日 10時00分)テキスト情報のファクトチェックツールを提供開始。生成された文章のハルシネーションにも対応

生成AIが普及する中、どうやってフェイク画像から身を守るべきか?NIIが最新の研究結果を紹介

こちらは国立情報学研究所(NII)の研究についてPC Watchの記事です。偽画像や偽動画をどうやってテクノロジーで見破るか。こちらも生成AIで人の目では見分けられない偽映像が生まれてくる中で、不可欠な技術と言えます。

生成AIが普及する中、どうやってフェイク画像から身を守るべきか?NIIが最新の研究結果を紹介
国立情報学研究所(NII)は、2024年3月4日、「フェイクから身を守るには? ―創るAI vs 守るAI」と題した市民講座を、東京・一ツ橋の学術総合センターおよびオンラインで開催した。

「それって陰謀論じゃないですか?」闇の国家「ディープステート」を信じる著名人一人一人に会ってみたら…どうなった?

世界を支配するディープステート(闇の政府)が存在する、などのいわゆる「陰謀論」を語る著名人にインタビューした共同通信の記事です。元総務大臣で立憲民主党の原口一博衆院議員らが取材に応じています。

「それって陰謀論じゃないですか?」闇の国家「ディープステート」を信じる著名人一人一人に会ってみたら…どうなった? | 47NEWS
インターネットを通じて情報が手軽に得られるようになった一方で、根拠に乏しい「陰謀論」も拡散し、人々に…

リベラルと陰謀論とスピリチュアル ワクチンへの懐疑にはまる理由は

こちらは朝日新聞社のWithnewsから。この週報でも取り上げた注目の研究「人はなぜワクチン反対派になるのか」について紹介する記事です。研究チームの一人、鳥海不二夫・東京大教授へのインタビューのほか、ワクチン懐疑派との親和性がある参政党にも取材しています。

リベラルと陰謀論とスピリチュアル ワクチンへの懐疑にはまる理由は
「人はなぜワクチン反対派になるのか」。東京大学がそんなタイトルで発表したプレスリリースが、X(旧ツイッター)で話題になりました。陰謀論やスピリチュアルへの関心が「ワクチン懐疑論」への入り口になり、懐疑論をとなえる参政党への支持拡大にもつな…

選挙に関わる偽画像は容易に作成できる

ネット上の誤・偽情報、ヘイト対策に取り組むアメリカの非営利団体「CCDH​」が、AIツールに防止対策があっても選挙に影響を与えうる画像が容易に作れるとテスト結果を公表しました。BBCのリポートです。

AI can be easily used to make fake election photos - report
Researchers said they were able to evade rules against “misleading content” more than 40% of the time.

“京都 実相院が売りに”虚偽情報 SNSで拡散 寺が注意呼びかけ

鎌倉時代の古刹・実相院が売りに出されているという虚偽の投稿が拡散、実相院に問い合わせが相次いだとNHKが報じています。

“京都 実相院が売りに”虚偽情報 SNSで拡散 寺が注意呼びかけ | NHK
【NHK】京都市左京区にある寺院「実相院」が売りに出されているという虚偽の情報がSNSで拡散され、寺に問い合わせが相次ぐ事態となり…

検証手法や判定基準については、JFCファクトチェック指針をご参照ください。検証記事を広げるため、SNSでの拡散にご協力ください。XFacebookYouTubeInstagramのフォローもお願いします。毎週、ファクトチェック情報をまとめて届けるニュースレター登録はこちらからどうぞ。

また、こちらのQRコード(またはこのリンク)からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を

もっと見る

都知事選めぐる誤情報/TikTokをNHKが独自調査/アメリカで偽情報研究拠点に閉鎖報道【今週のファクトチェック】

都知事選めぐる誤情報/TikTokをNHKが独自調査/アメリカで偽情報研究拠点に閉鎖報道【今週のファクトチェック】

東京都知事選が始まり、候補者や報道に関する偽・誤情報が拡散しています。日本でもTikTokで誤情報が拡散していることを調査したNHK報道や、アメリカでの偽情報の研究拠点の閉鎖をめぐる報道などを紹介します。 ✉️日本ファクトチェックセンター(JFC)がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。 JFCのファクトチェック記事 鳥インフルエンザワクチン接種に反対する人は逮捕される? 「世界保健機関(WHO)加盟国が鳥インフルエンザワクチンの接種に反対する国民を逮捕することに合意」という言説が拡散していますが、誤りです。厚生労働省は「合意した事実はない」と否定し、そもそもWHO年次総会でも議論されていません。 鳥インフルエンザワクチン接種に反対する人は逮捕される?【ファクトチェック】「世界保健機関(WHO)加盟国が鳥インフルエンザワクチンの接種に反対する国民を逮捕することに合意」という言説が拡散していますが、誤りです。厚生労働省は「合意し

By 宮本聖二, 古田大輔(Daisuke Furuta)
東京都知事選、NHKニュースで紹介する候補者の順番が不自然?【ファクトチェック】

東京都知事選、NHKニュースで紹介する候補者の順番が不自然?【ファクトチェック】

東京都知事選に関して「NHKがニュースで報じる候補者の順番が不自然」と、一部の候補を贔屓しているかのような言説が拡散しましたが、誤りです。NHKは候補者を届け出順に紹介しています。 検証対象 2024年6月20日に告示された東京都知事選報道をめぐって、NHKのニュースで放送した候補者の演説の順番が不自然だという言説が拡散した。小池都知事が最初で、元参院議員の蓮舫氏が5番目だったことから「発言の印象を弱めるためではないか」と指摘している。 このXの投稿は、6月22日現在38万を超える閲覧がある。「届出順のはずだ」というコメントが数多くついている一方、「人気順でじゃね?」と言った反応もあった。(※この検証記事の公開後、この投稿はお詫びとともに削除されました。2024年6月23日追記) 検証過程 日本ファクトチェックセンター(JFC)は、20日のNHKニュース7を視聴した。 都知事選のニュースでは、まず立候補者56人全員を顔写真と名前(字幕)で紹介。その後、小池百合子知事の紹介と演説を放送した。名前と三期目を目指すといった7秒間の紹介コメントをつけて、

By 宮本聖二
小池百合子都知事が都議会で自身に批判的な議員を退席させた?【ファクトチェック】

小池百合子都知事が都議会で自身に批判的な議員を退席させた?【ファクトチェック】

小池百合子都知事が都議会で自身に批判的な発言をした議員を退席させたという言説が拡散しましたが、ミスリードで不正確です。小池都知事に批判的な発言をした都議が委員会で退席を命じられたことは事実ですが、発言の取消しを求める動議について、当事者は議事に参加できないという条例にそった対応です。 検証対象 小池都知事が自身を批判した都議を退席させたという言説が動画とともに拡散している。 2024年6月11日に拡散したX(旧Twitter)上の投稿には動画とともに「小池百合子って都議会でこんなんなんや」「独裁者に刃向かえば退席させられるねんよ」などといったコメントもついていた。 2024年6月20日現在、このポストは1.2万件以上リポストされ、表示回数は65万件を超える。また、TikTokではこの動画が複数のバージョンで拡散している。 検証過程 拡散した動画は57秒に編集されている 添付された動画は57秒間。まず、「3月13日都議会予算特別委員会」の様子として、関口健太郎都議(立憲民主党)が以下のように発言する様子が映っている。 「知事の答弁拒否率は76%」

By 日本ファクトチェックセンター(JFC)
日本がウクライナに10年間で58兆円を支払う?【ファクトチェック】

日本がウクライナに10年間で58兆円を支払う?【ファクトチェック】

「日本政府が10年間でウクライナに58兆円を支払い、それを年金に充てる」という言説が拡散していますが、誤りです。58兆円は、ウクライナの復興に必要な総額の試算として世界銀行や国連が2023年3月に出したもので、日本が全額を負担するわけではありません。 検証対象 ロシアに侵略されているウクライナを支援するために「日本が58兆円を支払う」という言説が繰り返し拡散している(例1,2)。 「10年間で58兆円をウクライナ人の年金に充てるそうです」というX(旧Twitter)上の投稿は6月20日現在20万以上の閲覧数があり、TikTokなどでも繰り返し、拡散している。 検証過程 映像は2023年3月の岸田首相のウクライナ訪問 拡散したX につけられたTikTok動画のスクリーンショットを画像検索すると、2023年3月に岸田首相がウクライナを訪問して首脳会談をした際の映像だとわかる。 この会談で、岸田首相は「総額71億ドルの支援を着実に実施していく」と表明している(外務省「日・ウクライナ首脳会談」)。 2024年6月の首脳会談では 2024年6月13日

By 宮本聖二