その他

なりすましアカウントに新手口/選挙に関わるAIの画像制作が容易に【注目のファクトチェック】

2024年3月10日

✉️

日本ファクトチェックセンター（JFC）がこの1週間に出した記事を中心に、その他のメディアも含めて、ファクトチェックや偽情報関連の情報をまとめました。同じ内容をニュースレターでも配信しています。登録はこちら。

2024年3月4日-3月10日のファクトチェック週報です。急増するなりすましアカウントに新しい手口が登場しています。ゼレンスキー大統領やバイデン大統領など国のトップを貶める偽情報が引き続き拡散。アメリカでは選挙に影響を与えうる画像がAIによって容易に生成できると指摘されています。

JFCのファクトチェック記事

ウクライナのゼレンスキー大統領がダンスを踊る動画に「この男が何十億ドルという私たちの税金を持ち去ったなんて信じられません」と書かれた投稿が拡散しました。これは誤りです。ダンサーが投稿した動画にゼレンスキー大統領の顔を合成したものです。

「Gmailを2024年8月1日に終了する」というGoogle社の公式発表を装った画像が拡散しましたが、誤りです。改変されたメールが拡散しました。Google社も否定しています。

「福岡銀行が行員に3月14日に取り付け騒ぎが起こることに備える通知をした」という言説が拡散しましたが、誤りです。誤情報の発信を繰り返すアカウントの投稿で、福岡銀行は「そのような事実はない」と否定しています。

著名人のSNSアカウントになりすます新たな手口が広がっています。同じプロフィール画像と名前を使って、一連の投稿に紛れ込む手法です。偽アカウントはLINEの投資グループへの参加を促していますが、個人情報を取られたり、詐欺被害にあったりする恐れがあります。

アメリカのバイデン大統領が「あなたのお金は偽物」「食べ物と飲み物は汚染され、全ての戦争は嘘に基づいてる」などと発言する動画が拡散しましたが、誤りです。動画はAIで加工されています。

沖縄都市モノレール（ゆいレール）の駅名表示が「日本の文字より中国語の方が大きい」という言説が拡散していますが、不正確です。メイン看板では日本語が最も大きく、補完する看板に中国語や英語、ハングル表記が日本語とともにあります。

NABLAS株式会社がテキスト情報のファクトチェックツールを開発し、提供を開始しました。生成AIによって誤情報/偽情報がさらに増えていく中で、人によるファクトチェックだけでは絶対に追いつきません。こういった技術の開発と普及は偽情報対策に不可欠です。

こちらは国立情報学研究所（NII）の研究についてPC Watchの記事です。偽画像や偽動画をどうやってテクノロジーで見破るか。こちらも生成AIで人の目では見分けられない偽映像が生まれてくる中で、不可欠な技術と言えます。

世界を支配するディープステート（闇の政府）が存在する、などのいわゆる「陰謀論」を語る著名人にインタビューした共同通信の記事です。元総務大臣で立憲民主党の原口一博衆院議員らが取材に応じています。

こちらは朝日新聞社のWithnewsから。この週報でも取り上げた注目の研究「人はなぜワクチン反対派になるのか」について紹介する記事です。研究チームの一人、鳥海不二夫・東京大教授へのインタビューのほか、ワクチン懐疑派との親和性がある参政党にも取材しています。

ネット上の誤・偽情報、ヘイト対策に取り組むアメリカの非営利団体「CCDH」が、AIツールに防止対策があっても選挙に影響を与えうる画像が容易に作れるとテスト結果を公表しました。BBCのリポートです。

鎌倉時代の古刹・実相院が売りに出されているという虚偽の投稿が拡散、実相院に問い合わせが相次いだとNHKが報じています。

判定基準などはJFCファクトチェック指針をご参照ください。

毎週、ファクトチェック情報をまとめて届けるニュースレター登録(無料)は、上のボタンから。また、QRコード（またはこのリンク）からLINEでJFCをフォローし、気になる情報を質問すると、AIが関連性の高いJFC記事をお届けします。詳しくはこちら。