世界で広がるディープフェイク・AI犯罪を解説

ナカノです！

 

最近AIを使ってクソコラを量産することにハマっているのですが
近年このAIやディープフェイク
を使った犯罪が急増しています。

ディープフェイクとはなんぞやという人のために簡単に説明すると昔のアイコラ（アイドルコラージュ）の動画版です。

音声の生成AIも登場し個人の発声データを集めれば本人と同じ声質喋り方を再現することが出来ます。

外国人美女（存在しない）のロマンス詐欺や、著名人（偽物）による投資詐欺、関係を持った相手からのリベンジポルノによる恐喝、生成AI音声を使った振り込め詐欺オレオレ詐欺などが増えているようで

検挙する警察側は対応にまったく追いついていないのが警視庁の統計↓

https://www.npa.go.jp/bureau/criminal/souni/tokusyusagi/hurikomesagi_toukei2023.pdf

からも分かります。詐欺の手口でも従来の手法のデータしか計上していません。

これからは自己防衛の時代！！！
というわけでこれらの詐欺の手口を解説していきます。

【ディープフェイクを使ったロマンス詐欺、投資詐欺】

要約して説明すると、

’全くの無関係な美男美女、著名人、実業家等の画像や動画を用意しディープフェイクで画面内の人間にトレースし顔だけすげ替えて別人に成りすまして、動画を配信したり、テレビ電話を行うことによって信ぴょう性を高めて騙す’

というものです。

近年は防犯意識やインターネットリテラシーの高まりにより、画像や音声だけでは騙される方もおいそれて騙されることは無くなりましたが、逆に動画の持つ情報としての信ぴょう性が高まり、そこを利用して

「動画なら彼女は実在するだろう、動画なら本人だろう。」

という点を突いてくる詐欺師が出てきたのです。

対処法としては、ロマンス詐欺の場合にはテレビ電話中に相手に動いてもらい画像の粗（動くとディープフェイクの処理速度が追い付かずトレースした顔がはがれる）を見つける方法や、著名人の場合は本人のSNSなどで直接連絡を送り確認をとる手法、本人確認書類を提示させるなどがあります。

そもそも何故、外国人美女が自分に求愛しているのか、多忙で時間のない著名人がわざわざ投資を教えてくれるのかを考えるようにすると騙される可能性も低くなりますね。

 

【音声AIによる振り込め詐欺、オレオレ詐欺】

こちらは

’対象の人物の近親者の音声を集めて音声生成AIに学習させ、近親者そっくりの音声や喋り方ができる音声ソフトを使ってオレオレ詐欺を行う’

というものです。

オレオレ詐欺も近年は各機関の注意喚起もあり安易に騙される人は少なくなっていますが、やはり息子の声色や喋り方そっくりの場合だと騙されてしまうケースが増えているようです。

対処法としてはやはり従来のやり方である、個人間でしか分からない込み入った話の質問をすることや金銭の話は一切受け付けないと決まりを作るなどがあります。

【リベンジポルノによる恐喝】

こちらは

’対象人物の写真や動画から顔の素材を抜き取り、素人が個人で作成した配信型アダルトビデオに、抜き取った顔素材をディープフェイクで合成し、この動画をばらまかれたくなかったら……’

と脅すものです。

近年は配信型の素人アダルトビデオが簡単に出回っており、ディープフェイクも少し勉強すれば誰でも扱えるようなアプリやソフトも出てきているため一般人でもやろうと思えば誰でも出来てしまうのが現状です。

対処法は、そもそも写真や動画を撮らせないことですが、恋人間では無理な話なので、音声や動画、通話内容を保存し恐喝で被害届を出すのが最も良いでしょう。

これらの犯罪はある程度のインターネットリテラシーを持っていても騙される人は多いようです。
便利な技術は正しく使えば世の中のために役立ちますが、悪人の手に渡ればうまく犯罪に取り込まれてしまいます。はさみと同じで使い方次第ですね。


詐欺に関するご相談はガルエージェンシーまで！

 

X（旧ツイッター）とインスタとスレッズのアカウントがあるのでフォローしてもらえると、いと嬉しです。SNSでは探偵ファイルに乗せられなかったボツネタ載せたりします。

X:@galu_nakano1

インスタ＆スレッズ：galu.nakano1

 

※タイトルの美少女もディープフェイクです