激増する「ディープフェイク詐欺」。対応の要は「良いAI」の活躍か？

ドイツを拠点とするグローバル損害保険会社アリアンツによると、ディープフェイク画像や動画などをもとに保険金をだまし取る「ディープフェイク詐欺」が、2023年時点で前年比300パーセント増と激増している。 同業者チューリッヒも、生成AIにニセの「医師の診断書」を作らせて保険金を騙し取るディープフェイク詐欺の事例などを報告、被害の拡大を訴えている。

生成AIを使った次世代犯罪と呼ぶべき「ディープフェイク詐欺」の現状と、対応の状況などについてお伝えする。

激増する「ディープフェイク詐欺」

「ディープフェイク詐欺」（Deepfake fraud）とは、文字通り「ディープフェイク」を使った詐欺のことだ。「ディープフェイク」は生成AIなどを使って作られたニセの画像、動画、音声などで、そうしたニセモノのコンテンツを使って他人を欺き金銭などをだまし取る行為が「ディープフェイク詐欺」だ。

ディープフェイク詐欺は、生成AIの普及と進化に伴って発生件数が世界的に増加し、近年では保険会社や銀行などの金融機関に対して仕掛けられるケースが特に増えている。ディープフェイク画像を使ったディープフェイク詐欺が2023年時点で前年比300パーセント増加したとアリアンツが発表したのは上述の通りだ。

自動車保険などの損害保険の現場においては、保険金請求の際に提出される事故車両や現場などの画像データに「何らかの修正」が施されるケースが一般化しつつあるようで、損害保険を含む保険業界においては、悪質なディープフェイク詐欺に対する抜本的な対策が必要になってきている。

AIで「ニセの傷」を付けたフェイク画像を生成、保険金を請求

損害保険の現場で、ディープフェイク詐欺は具体的にどのように行われているのだろうか。英メディアのザ・ガーディアン（The Guardian）は、アリアンツで発生したディープフェイク詐欺の事例を紹介している。
あるアリアンツの自動車保険加入者は、保有するバンが接触事故を起こしたとして保険金を請求してきた。請求書類には事故を起こしたとするバンのフロントバンパーが破損した状況を写した写真と、修理工場が発行したとする1000ポンド（約20万円）相当の請求書が添付されていた。

アリアンツの審査チームが調べると、写真は別の同じ車種のオーナーがソーシャルメディアに投稿したものであり、その写真をベースにした、事故を起こしたように見せかけた「作られた画像」であることがわかった。また、バンを修理した請求書とされる請求書も、偽造されたものであることがわかった。

このケースは、保険金請求額が1000ポンド程度と、比較的軽い部類に属すると思われるが、逆に考えると、1000ポンド程度の保険金請求事件でもディープフェイク詐欺が簡単に行われていることを示しているとも言える。保険業界におけるディープフェイク詐欺は、水面下で急激に増加している可能性が高い。

ディープフェイク詐欺に対する主な対応策

増加し続けるディープフェイク詐欺に対しては、どのような対応策が採られているのだろうか。一般的には、悪事を働く「悪いAI」に対してルールと秩序を守る「良いAI」をあてて対抗している。具体的には、「良いAI」は以下のスキームなどを使ってディープフェイク詐欺を暴き出している。

メタデータ分析

まずは画像のメタデータ分析だ。メタデータ（Metadata）とは、「データのデータ」のことで、それぞれのデータが持つ固有のデータのことだ。例えば、一般的な画像データには通常「画像のファイルタイプやサイズ」「画像が撮影された日時」「撮影されたロケーション」「撮影されたデバイスの種類」「編集履歴」などのデータが刻み込まれている。メタデータ分析は、それぞれの画像が持つ固有のメタデータを分析し、画像の正当性や整合性などを検証するスキームだ。

上述のアリアンツのケースで言えば、事故を起こしたとされるバンを写した画像の撮影ロケーションが、保険金請求書に記述された事故発生地点と相違しているといったイメージだ。また、「画像が撮影された日時」や「編集履歴」と請求内容を突合することで不整合が明らかになるケースもあるだろう。メタデータ分析は、ディープフェイク詐欺検知の基本テクニックのひとつだ。

エラーレベル分析

エラーレベル分析（Error level analysis）は、JPEGなどの非可逆圧縮画像の圧縮アーティファクト（圧縮した際に生じる歪み）を分析するスキームだ。 基本的にJPEGなどの圧縮された画像は、圧縮アーティファクトのレベルが画像全般に渡って均一であるはずだ。もし異なるレベルの歪みなどが見られた場合、別の画像が挿入されるなど編集された可能性が高い。エラーレベル分析は、画像における圧縮アーティファクトのレベルを検査し、異なるレベルの部分などを見つけることで画像の編集や改ざんなどを検出する。

エラーレベル分析は比較的前から存在する分析スキームであるが、近年は実際の画像加工事例の情報を教師データとしてAIに学習させ、不正を検知するディープラーニングを使ったスキームが台頭してきている。

シャドーリフレクション分析

シャドーリフレクション分析（Shadow reflection analysis）は、画像内の各オブジェクトにあてられた光とそのリフレクション（反映）を分析し、画像の挿入や合成などの編集や加工を検知するスキームだ。
一般的に被写体のオブジェクトに光が当てられると、そのリフレクションが同じ方向に向かって映し出され、バニッシングポイント（消滅点）に向けて影（シャドー）を形成する。画像内に複数のオブジェクトがある場合も、それぞれのオブジェクトごとに光源、照度、リフレクションが示される。

AIなどが複数の画像イメージの切り抜きなどを行ってディープフェイク画像を生成すると、異なったシャドーとリフレクションを持つ複数のオブジェクトによって画像が構成されることになる。リフレクション分析は、そうした画像内の矛盾を暴き出す。

生成した画像内に複数のオブジェクトが存在する場合、それらのシャドーやリフレクションを均一にし、整合性を保つことは現時点では困難であるとされる。特に二次元画像から切り抜いたオブジェクトを三次元画像に埋め込むといった場合、整合性を保つことが難しいとされる。 シャドーリフレクション分析は、生成AIでも苦手とされる部分に焦点をあてて不正を検知する、ダイレクトな検知スキームであると言えるだろう。

今後も続く「悪いAI」対「良いAI」の果てしなき戦い

AIテクノロジーのさらなる進化と普及が見込まれる今後、生成AIを使ったディープフェイク詐欺などの犯罪行為がさらに増加する可能性が高い。「悪いAI」の台頭に対応するべく「良いAI」の活躍が期待されるが、両者の戦いは始まったばかりである。

ディープフェイク詐欺の実態に詳しいカリフォルニア大学バークレー校のヘイニー・ファリド教授は、「生成AIの進化は総合的に加速しており、生成する画像のリアリティも日々向上しています。生成AIが、各種の分析スキームでも検知できないレベルの画像を生成できるようになるのは時間の問題です。それまでの間は、（シャドーリフレクション分析のような）幾何学的な分析手法が、いずれにせよ有効です」とコメントし、生成AIがやがて検知不可能なレベルのディープフェイク画像を生成することができるようになると予言している。

コンピューティングの歴史においては、かつて検索エンジンの開発競争で「悪いSEO」対「良いSEO」が長期に渡って戦いを繰り広げた時期があった（今も続いている可能性があるが）。
ワードスタッフィングやリンクファームといった各種のテクニックを使い、検索エンジンの権威性を悪用するなどして一部のプレーヤーを市場から駆逐した「悪いSEO」に対し、「悪いSEO」の跋扈を許さず、良質なコンテンツを優先する「良いSEO」で対応し続けた検索エンジンが最終的には勝利した。

「良いSEO」が「悪いSEO」に勝利したように、今後激化が確実視される「悪いAI」との戦いに「良いAI」が勝利することを願ってやまない。

参考文献

https://www.theguardian.com/business/article/2024/may/02/car-insurance-scam-fake-damaged-added-photos-manipulated?utm_source=chatgpt.com
https://www.techtarget.com/whatis/definition/image-metadata
https://zenn.dev/youheinakagawa/articles/6d381d3a524367061f07
https:// blog.ampedsoftware.com/2023/10/11/how-to-reveal-ai-generated-images-by-checking-shadows-and-reflections-in-amped-authenticate
https://contentauthenticity.org/blog/photo-forensics-from-lighting-shadows-and-reflections