生成AIをファクトチェック 進化する技術に対抗する方法【JFC講座 実践編5】
日本ファクトチェックセンター（JFC）のファクトチェック講座です。
実践編第4回は、増加傾向にある偽動画の検証についてでした。第5回は公開されている生成AIで作られる画像や動画の検証について解説します。
(本編は動画でご覧ください。この記事は概要をまとめています)
生成AIによる「ディープフェイク」
生成AIで作られた偽情報は「ディープフェイク」と呼ばれます。
例えば、アメリカのトランプ前大統領が「岸田首相はグローバリストの操り人形」と話している動画が拡散しました。これは発言内容を自由に捏造できるツールで作られたディープフェイクです。
一方で、AIを使わずに作られた偽の画像や動画などをディープ（深い）に対応して「シャロー（浅い）フェイク」や「チープ（安い）フェイク」と呼びます。
例として、台湾の地震時に東日本大震災の映像が使われた事例があります。現状では、チープフェイクの方が圧倒的に多いですが、ディープフェイクも増えつつあります。
日本のディープフェイク事例
日本で最初に有名になったディープフェイク事例は、2022年9月の静岡県での事例です。「ドローンで撮影された静岡県の水害」という画像は生成AIで作ったものでした。
日本ファクトチェックセンター(JFC)
また、2023年11月には岸田文雄首相が自身の性的な事柄を独白するという動画が拡散しました。日本テレビのロゴもありましたが、日テレとも岸田首相とも関係のない、生成AIによるディープフェイク動画でした。
これらの技術は専門知識なしで誰でも使えます。
日本ファクトチェックセンター(JFC)
ディープフェイクは細部を確認する
生成AIで作られた画像や動画は、細部に不自然な点があります。
例えば、静岡の水害の写真では、水面の影と地上の構造物が一致していなかったり、がれきの描写が不明瞭だったり、水面が不自然だったりします。
また、岸田首相の動画では口の部分だけが動き、顔の表情が全く変わりません。スマホの小さな画面だと気がつかなくても、大きめの画面で見ればその不自然さは一目瞭然です。
生成AIの技術は数ヶ月、数週間レベルで向上しており、自然な描写の写真や動画も増えてきています。それでも、拡大して見てみるとおかしな点に気がつきます。
例えば、「ガザで男性が瓦礫から子供達を救出する画像」。プロが撮影した報道写真のようにも見えます。
日本ファクトチェックセンター(JFC)
しかし、拡大して見てみると、手や足の描写に違和感を持ちます。
技術の進化と検証の限界
生成AIの開発で世界をリードするOpenAIの新しい技術「Sora」は、「夜の東京を歩くおしゃれな女性」などの簡単なテキスト入力だけで驚くほど精巧な動画が作れます。
スマホの小さな画面で見たときに、すぐにディープフェイクだと見抜くことは困難でしょう。
背景の看板の文字が意味不明であるなど、細部の描写にはまだ生成AI特有の限界があります。
しかし、人間の目による検証が不可能なディープフェイクは今後、増えていくでしょう。
精巧なディープフェイクへの対応方法
では、人間の目で検証できないレベルのディープフェイクにどう対応するべきか。
クリティカル・シンキングで吟味する
まず、画像や動画や音声が本物とは限らないと認識することが重要です。常に吟味する。その人物がそういう発言をするのか。
例えば、岸田首相がテレビで突然性的な発言をするはずはありません。人気モデルのベラ・ハディッドさんがイスラエルを支持する発言をしたというディープフェイクもありましたが、これも彼女がパレスチナの平和を訴える活動をしていたことを知っていれば、不自然さに気づくはずです。
主要メディアを確認する
もう一つ有効な方法は、主要なメディアがそのニュースを報じているかを確認することです。著名人の言動や大災害であれば、NHKやCNNやBBCなど世界の主要メディアが報じているはずです。
匿名のSNSや無名のニュースサイトだけが取り上げている情報は、これまでも多数の誤りがありましたし、信頼性は低いです。
技術やルールによる対策
技術には技術で対抗する方法もあります。AIで生成されたコンテンツをAIで判定する技術の開発が進んでおり、その精度は向上しています。また、AIで生成したコンテンツにラベルを貼るなどのルール設定の議論も進んでいます。
しかし、これらの対策だけではすべての被害を防ぐことはできません。泥棒を取り締まる法律があっても家に鍵をかけるように、自分を守るノウハウを身につけることが重要です。
次回はOSINT
次回は、オープンソースの情報を使った検証方法=OSINTについて解説します。これにより、さらに深く広く情報の真偽を見極める力を養うことができます。
アンケートにご協力を
動画を見た方は、ぜひ簡単なアンケートにご協力ください。 https://forms.gle/QdVa9A5v3RDnfBW59
検証手法や判定基準については、JFCファクトチェック指針をご参照ください。検証記事を広げるため、SNSでの拡散にご協力ください。X、Facebook、YouTube、Instagramのフォローもお願いします。毎週、ファクトチェック情報をまとめて届けるニュースレター登録はこちらからどうぞ。
また、こちらのQRコード（またはこのリンク）からLINEでJFCをフォローし、真偽が気になる情報について質問すると、AIが関連性の高い過去のJFC記事をお届けします。詳しくはこちらの記事を。
