オタフ☆クラブ

フェイクはこうして作られる!AIが作る写真や動画の仕組みとは

写真のイメージ

InstagramやTwitterなどで見た写真の人物に実際会ってみたら「別人じゃん!詐欺じゃん!」って思うことがありますよね。ちょうど先日、弊社お多福lab(このAIZINEを運営している会社です)の社長がある人から貰った自撮り写真が、実際会ってみたら違いすぎて「騙された!」って言っていました。

また、フェイク写真やデープフェイクなどの”嘘”が私たちの生活を脅かしています。

実は、このような”嘘”はAI(人工知能)で簡単に作れてしまうのです。

今「え?AI(人工知能)ってこわい!」って思った方いるでしょう。ですが、こうしたフェイク写真やディープフェイクはどうやってAI(人工知能)が生み出しているのかを知ることができれば、フェイクに騙されずに済むかもしれません。

それでは今回は、フェイク写真やディープフェイクといったものや、身近な詐欺写真といったものはどのようなAI(人工知能)を使って作られているのかをご紹介します。

身近な詐欺写真、写真加工アプリで使われるAI(人工知能)

写真加工アプリのイメージ

いきなりフェイク写真やディープフェイクと聞いてもぴんと来ない方もいますよね。ですからまずは、AI(人工知能)搭載のアプリが作る詐欺写真のお話しをします。

この詐欺写真というものを目にしたことがある方は多いでしょう。詐欺写真は、専門的なプロ向けのソフトを使う必要はありません。誰もが持っているスマホにアプリを入れることで作ることが可能です。

試しにiPhoneのApp Storeを見てみましょう。

AppStoreのイメージ

すると写真/ビデオカテゴリーの上位に「SODA」や「Ulike」「SNOW」といった写真加工のアプリがありますよね。

これら人気の写真加工アプリにはAI(人工知能)が使われています。

例えば、

SODAには顔認識技術「sensetime」というAI(人工知能)が使われています。この「sensetime」を使うと、カメラに映った人の顔を認識し瞬時に加工することができるのです。
また、「NALBI」というAI(人工知能)も使われています。この「NALBI」を使うと、リアルタイムで髪の位置にスタンプを追加したり、人物の背景をぼかしたりすることができます。

本物と見分けがつかない!フェイク写真

Snapchatのイメージ

このように、誰でも使うことができるアプリで詐欺写真が作れることがわかりましたよね。今度は誰でも使える写真共有アプリ「Snapchat」でのフェイク動画のお話をしましょう。

この「Snapchat」のカメラ機能には様々なフィルターが用意されています。その中でも、男性は女性に、女性は男性に性転換できるフィルターは一時話題になりました。

実はこのフィルターにはGANというAI(人工知能)が使われています。
GANとは、もとになる訓練データを学習し、その訓練データと似たような新しいデータを生成するモデルの一種。例えば、このGANを使うと男性の顔のパーツを女性の顔パーツに入れ替えて新しい画像を生成することができます。
しかし、このGANが使用された性転換フィルターで事件が起きたのです。
その事件はアメリカ・カリフォルニア州でのこと。大学生がこのフィルターを悪用して架空の少女を作成しました。そしてこの架空の少女を16歳と設定しマッチングアプリで出会いを求めてみたのです。すると未成年とわかった上で性的行為を誘う者が出てきました。それはなんと警察官。

このことにより、未成年に性的活動について話をした容疑で警察官は逮捕されてしまったのです。

このように、AI(人工知能)で作られたフェイク写真に騙される人が出てきました。(逮捕は未成年とわかっている相手に性的活動をしたからですが)

ここで「いやいや、スマホのアプリのフィルターって髪の毛が不自然だったりするじゃない?よく見たらわかるんじゃないの?」って思った方いますよね。

それでは今度は、このGANの「架空の人を作るAI(人工知能)技術」を体験できるサイトをご紹介しましょう。それはフェイク顔写真判定ゲーム「whichFaceisReal.com」です。

このサイトは、AI(人工知能)が作り出した人物と本物の写真を並べて「どちらがフェイク写真でしょう」と当てるゲームをすることができます。ぜひ一度チャレンジしてみてください。

このゲームを実際体験してみるとわかりますが、どちらが本物か見分けがつきません。10回連続で挑戦してみて全問正解できる方はなかなかいないでしょう。

このように、AI(人工知能)で作られたフェイク写真は本物と見分けがつかなくなっています。

whichFaceisReal.com

誰でも作れてしまうディープフェイク

動画を撮るイメージ

ここまではAI(人工知能)が作るフェイク写真についてお話しました。今度はフェイク動画、「ディープフェイク」についてです。

「写真は静止画だからできるけど、動画こそプロが使うソフトが必要なんじゃないの?」って思った方いるかもしれません。

しかし、ディープフェイクも誰でも簡単に作れてしまいます。
今回ご紹介するのは「Xpression」というアプリ。このアプリはユーザーの顔の表情に合わせて写真やビデオの顔を自由に動かせるというものです。アプリで動かすビデオや写真は、自分で撮影したものやYouTubeなどの動画など何でも可能。ですから例えば、友達を撮影した動画を使って、嘘の動画を作るなんてこともできます。

この「Xpression」にももちろんAI(人工知能)が使われています。それは以下の3つ。

  • カメラの3D顔形状と表情を別々に解析
  • ビデオも3D顔形状と表情を別々に解析
  • 口周りの画像をGAN(画像生成技術)で生成

このように、AI(人工知能)を使うことで簡単に誰でもフェイク動画を作成できてしまうのです。

フェイク対策にも使われるAI(人工知能)

フォトショップのイメージ

しかし、AI(人工知能)はフェイク写真、ディープフェイクを作るばかりではありません。

実は最近フェイク写真を見抜くAI(人工知能)が生み出されました。

それはAdobeのフォトショップのAIツールです。

このツールを使うことで変更された顔を99%の確率で検出することができます。

もともとフォトショップにはFace Aware Liquifyという顔のパーツを自由に変更できる「ゆがみツール」があるのですが、そのゆがみツールを使って作成した顔写真を何千枚と用意し、それをAI(人工知能)が学習。そしてそのAI(人工知能)を使うことでフェイク画像を検出可能にしました。
また、ディープフェイク動画対策用のシステムも開発されています。

ロサンゼルスのシステム開発会社「ピンスクリーン」は、ディープフェイク動画を自動で判別するシステムを新たに開発しました。

このシステムは、人それぞれ微妙に異なる話し方のくせやしぐさをAI(人工知能)によって解析し、フェイク動画を見破るという仕組み。

まず、人それぞれの癖など、本人の喋り方を事前にAI(人工知能)で解析しておき、その特徴点から本物と比べて目の開き方や口の動きなどといった「動き」を本物と比べ、フェイク動画を検出します。

このように、人間の目では本物と見分けがつかなくなっているフェイク動画やディープフェイクをAI(人工知能)を使って検出しようという動きが出始めているのです。

 

写真のイメージ

今回は、フェイク動画やディープフェイクで使われているAI(人工知能)についてお話しました。これで誰でも簡単にフェイク動画やディープフェイクが作れてしまうことがわかりましたよね。

顔認識技術や、人物の位置を特定する技術、そしてGANといった画像を生成する技術をつかうことでフェイクは簡単に作れ、すでに人間の目では偽物を見抜くことは不可能になっています。ですから、フェイク対策としてもAI(人工知能)を使って検出していこうと開発が進められているのです。

今後私たちにできることは、このようなフェイクは「誰でも作ることができる。」と理解し、「AI(人工知能)の仕組みを知り、正しく活用していく。」ことが大切。

冒頭で詐欺写真に「騙された!」って話をしましたが、このような仕組みがあるということを知っていれば簡単には騙されません。

ですから今後フェイクに騙されないためにも、AI(人工知能)が作るフェイクがどういうものかを理解しておきましょう。

コメントをどうぞ

トップへ戻る
タイトルとURLをコピーしました