フェイクはこうして作られる！AIが作る写真や動画の仕組みとは

InstagramやTwitterなどで見た写真の人物に実際会ってみたら「別人じゃん！詐欺じゃん！」って思うことがありますよね。ちょうど先日、弊社お多福lab（このAIZINEを運営している会社です）の社長がある人から貰った自撮り写真が、実際会ってみたら違いすぎて「騙された！」って言っていました。

また、フェイク写真やデープフェイクなどの”嘘”が私たちの生活を脅かしています。

実は、このような”嘘”はAI（人工知能）で簡単に作れてしまうのです。

今「え？AI（人工知能）ってこわい！」って思った方いるでしょう。ですが、こうしたフェイク写真やディープフェイクはどうやってAI（人工知能）が生み出しているのかを知ることができれば、フェイクに騙されずに済むかもしれません。

それでは今回は、フェイク写真やディープフェイクといったものや、身近な詐欺写真といったものはどのようなAI（人工知能）を使って作られているのかをご紹介します。

身近な詐欺写真、写真加工アプリで使われるAI（人工知能）

いきなりフェイク写真やディープフェイクと聞いてもぴんと来ない方もいますよね。ですからまずは、AI（人工知能）搭載のアプリが作る詐欺写真のお話しをします。

この詐欺写真というものを目にしたことがある方は多いでしょう。詐欺写真は、専門的なプロ向けのソフトを使う必要はありません。誰もが持っているスマホにアプリを入れることで作ることが可能です。

試しにiPhoneのApp Storeを見てみましょう。

すると写真/ビデオカテゴリーの上位に「SODA」や「Ulike」「SNOW」といった写真加工のアプリがありますよね。

例えば、

本物と見分けがつかない!フェイク写真

このように、誰でも使うことができるアプリで詐欺写真が作れることがわかりましたよね。今度は誰でも使える写真共有アプリ「Snapchat」でのフェイク動画のお話をしましょう。

この「Snapchat」のカメラ機能には様々なフィルターが用意されています。その中でも、男性は女性に、女性は男性に性転換できるフィルターは一時話題になりました。

このことにより、未成年に性的活動について話をした容疑で警察官は逮捕されてしまったのです。

このように、AI（人工知能）で作られたフェイク写真に騙される人が出てきました。（逮捕は未成年とわかっている相手に性的活動をしたからですが）

ここで「いやいや、スマホのアプリのフィルターって髪の毛が不自然だったりするじゃない？よく見たらわかるんじゃないの？」って思った方いますよね。

それでは今度は、このGANの「架空の人を作るAI（人工知能）技術」を体験できるサイトをご紹介しましょう。それはフェイク顔写真判定ゲーム「whichFaceisReal.com」です。

このゲームを実際体験してみるとわかりますが、どちらが本物か見分けがつきません。10回連続で挑戦してみて全問正解できる方はなかなかいないでしょう。

このように、AI（人工知能）で作られたフェイク写真は本物と見分けがつかなくなっています。

whichFaceisReal.com

誰でも作れてしまうディープフェイク

ここまではAI（人工知能）が作るフェイク写真についてお話しました。今度はフェイク動画、「ディープフェイク」についてです。

「写真は静止画だからできるけど、動画こそプロが使うソフトが必要なんじゃないの？」って思った方いるかもしれません。

この「Xpression」にももちろんAI（人工知能）が使われています。それは以下の3つ。

• カメラの3D顔形状と表情を別々に解析
• ビデオも3D顔形状と表情を別々に解析
• 口周りの画像をGAN（画像生成技術）で生成

このように、AI（人工知能）を使うことで簡単に誰でもフェイク動画を作成できてしまうのです。

フェイク対策にも使われるAI（人工知能）

しかし、AI（人工知能）はフェイク写真、ディープフェイクを作るばかりではありません。

それはAdobeのフォトショップのAIツールです。

このツールを使うことで変更された顔を99％の確率で検出することができます。

ロサンゼルスのシステム開発会社「ピンスクリーン」は、ディープフェイク動画を自動で判別するシステムを新たに開発しました。

このシステムは、人それぞれ微妙に異なる話し方のくせやしぐさをAI（人工知能）によって解析し、フェイク動画を見破るという仕組み。

このように、人間の目では本物と見分けがつかなくなっているフェイク動画やディープフェイクをAI（人工知能）を使って検出しようという動きが出始めているのです。

今回は、フェイク動画やディープフェイクで使われているAI（人工知能）についてお話しました。これで誰でも簡単にフェイク動画やディープフェイクが作れてしまうことがわかりましたよね。

顔認識技術や、人物の位置を特定する技術、そしてGANといった画像を生成する技術をつかうことでフェイクは簡単に作れ、すでに人間の目では偽物を見抜くことは不可能になっています。ですから、フェイク対策としてもAI（人工知能）を使って検出していこうと開発が進められているのです。

今後私たちにできることは、このようなフェイクは「誰でも作ることができる。」と理解し、「AI（人工知能）の仕組みを知り、正しく活用していく。」ことが大切。

冒頭で詐欺写真に「騙された！」って話をしましたが、このような仕組みがあるということを知っていれば簡単には騙されません。

ですから今後フェイクに騙されないためにも、AI（人工知能）が作るフェイクがどういうものかを理解しておきましょう。