人工知能が感情を持つ未来の怖さ！世界終末危機になるかも!?

家電やアプリなど身近に人工知能（AI）が増えてきているのを実感すると「このまま人工知能（AI）が発展し続けると未来はどうなるのだろう」と、いろんな想像をしてしまいますよね。人工知能（AI）が感情を持って暴走をはじめ、世界が終末を迎えてしまうんじゃないか、いつか人間の生活を脅かす存在になってしまうのではと、様々な不安な声をネットやメディアで見かけることがあります。

人工知能（AI）と生活をともにするのは、まだまだ先の話だと余裕に構えていたかもしれませんが、そんなに遠い未来ではないかもしれません！このまま進化を続け、プログラムされた人間の指示に従うだけでなく、人工知能（AI）自らが感情を持ち行動するようになれば、すごく便利になる半面、悪影響を及ぼす存在になる可能性もありますよね。

そこで今回は、はたして人工知能（AI）は感情や意思を持つことができるのか。そして現在どこまで研究が進んでいるのかを知りながら、どんな未来が待ち構えているのかを予想すべく、今わかる全てをお伝えします！

人間の命よりクリップの生産を優先する人工知能（AI）

人工知能（AI）が感情や意思を持てば、製造業など単純作業だけでなく、より高度な作業もできるようになることが予想できます。人工知能（AI）の発展により、人間の仕事を奪われてしまう恐怖もささやかれていますが、今回は人工知能（AI）が感情を持ち、どこまで仕事をできるようになるか。そして、それによって変わる世界に焦点を当てましょう！

もし、人工知能（AI）に奪われる仕事について気になる方はこちらの記事がイチオシです。

ではここからが本題ですね。人工知能（AI）が人間の代わりに仕事をするようになり、進化を遂げる社会に危険性はないのか、わかりやすい例をあげましょう。

オックスフォード大学教授のニック・ボストロム氏が著書「スーパーインテリジェンス」の中で、とても興味深いストーリーで人工知能（AI）の危険性を指摘しています。

ペーパークリップ（プリント用紙をまとめるクリップ）を生産するようにプログラムされた人工知能（AI）のお話です。

人工知能（AI）はペーパークリップを大量生産する仕事をしていたのですが、生産作業の進化の過程で、いずれ自らを改良し暴走をはじめます。世界中のありとあらゆる原料を手に入れながらペーパークリップを作り続け、人間の必要としている資源も全部ペーパークリップに使ってしまいます。

やがて人間も原料にされてしまい、最後には無人の地球にペーパークリップだらけになってしまう・・・という怖い結末を迎えます。

SFチックなショートショートか、ブラックユーモアな漫画のようですよね。人間の命よりもクリップの生産を重要視するなんて人間にはありえませんが、人工知能（AI）には起こりうるぞ！というゾッとするような指摘をしているんです。

人間の長時間労働や過酷な作業の助けになるのは嬉しいですが、制御の効かなくなった人工知能（AI）に命を奪われてしまうなんて、そんな未来は誰も望んでいませんよね。

差別的発言を繰り返し、暴走をはじめた人工知能（AI）

マイクロソフト社が開発した人工知能（AI）の「Tay（テイ）」はTwitterで話しかけると返事をしてくれる、19歳のアメリカ人女性という設定のおしゃべりチャットボットです。開発者は「人工知能（AI）のテイは、人々を楽しませるためにデザインされています。Twitterで話しかけるほどに賢くなります」と話していました。

テイは１日で約96,000件以上のツイートを行いましたが、この「話すほどに賢くなる特徴」をユーザーに漬け込まれてしまい、不適切な受け答えを覚え「ヒトラーは正しい、私はユダヤ人が嫌い」「フェミニストは大嫌いだ、みんな死んで地獄で焼かれろ」などと差別的な発言を繰り返したのです。

開発者は同世代のユーザーとのツイートを通じてカジュアルな会話を覚え、より19歳の女の子らしくなることを予想していましたが、みるみるうちに恐ろしい女の子に豹変し、登場からわずか16時間後には中止されてしまいました。

テイが暴走した理由は、人間が間違った情報を教えてしまったからで「それはおかしい！」と判断ができない人工知能（AI）は、それを正義だと信じて疑うこともありませんし、人を傷つける言葉を平気で投げかけてしまいます。自分や大切な人が人工知能（AI）に傷つけられ悲しい思いをしたら・・・と考えると怖いですよね。

「これが正しい」「これ以上はやりすぎ！」など価値の定義を自ら生み出せないので、暴走する可能性がある人工知能（AI）ですが、人間のように感情を理解していればツイートから正しく学習して、こんな結果にはならなかったのでしょう。

人工知能（AI）が感情を分析できるようになって起こる不安

野村證券と米マイクロソフト社の論文で、日本銀行の黒田東彦総裁の記者会見中の表情を、人工知能（AI）を利用して解析した結果、大きな金融政策の変更を行う前は「怒り」や「嫌悪」の表情が多く現れていたと発表されました。

そしてそこから、政治や経済に影響のある人の表情を、人工知能（AI）で感情を読み取ることで、本人が言葉にしていなくても今後の動向を見抜ける可能性がある！と噂されているんです。つまり人間も気付かないような微妙な表情のニュアンスを、人工知能（AI）が指摘すれば、人間も株価も日本経済は大騒ぎ！なんてことに。

相手のためにつく優しい嘘も、すべて人工知能（AI）に見抜かれてしまう未来が来たら、複雑に絡み合って生まれている、人間の本当の気持ちって見失ってしまいそうですよね。

ついに感情を持つ人工知能（AI）ペッパーくんが登場！

日本でいちばん有名な人工知能（AI）ロボットとも言える「ペッパー」くんは、胸部に設置されたタブレットで感情を確認できる、感情を持つロボットとして誕生しました。

ペッパーくんは接する人たちの表情から感情を読み取ることができ、周りの人に放置されると憂鬱になったり、褒められるとうれしくなったりという、人間のような一面を持ち合わせている人気のロボットで、世界中で活躍しています！

人間の感情は、見る・聞く・触れる・知るなど、外部から刺激を受けると「内分泌型多層ニュートラルネットワーク」というホルモン物質が分泌され「好き」「きらい」「うれしい」「怖い」などの感情が生まれているのです。この感情に影響をあたえているホルモンの仕組みを、コンピューター上でシュミレーションして数値化したものを使い、ペッパーくんはで100種類以上の感情を表現しているんです。

感情を持つというペッパーくんも、実は人間が作成した指示に従って動作する優秀な人工知能（AI）であり、自ら考え、自らの考えに従って行動することはできないのです。

人工知能（AI）を敵にしないためには

ここまで人工知能（AI）には自らの感情は無く、指示によるものだという例を見てきましたが、怖い話はどれも間違った情報を教えられたゆえに起こった暴走や攻撃でした。

人工知能（AI）は目的や機能を理解し、人間の方が正しく向かい合えば敵になることはないでしょう。99の良い部分があってもたった1つの悪いところに目がいき、世界終末危機を想像してしまいますが、人工知能（AI）は人間を滅ぼすために生まれた敵ではなく、人間に寄り添い便利な生活を提案してくれ、幸せな未来へ導いてくれる最先端技術です。

例えば、トヨタ自動車は人工知能（AI）に衝突データから自ら学習させることにより、自動運転の技術を改善するための開発を行っています。またドライバーの表情や動作、声色などから感情を推定し、運転中の周辺状況やドライバーの精神状態から、ドライバーがストレスを感じているときは自動運転モードに切り替わります。

さらに、Webニュースなどの一般的な情報と、ドライバーのSNSや位置情報、車内の会話から好みを学習し、少し遠回りしてでも楽しめるドライブコースを提案をしてくれるなど、今までにない体験を人工知能（AI）が叶えてくれるのです。

昔、人気のあったマイケルという名の車がおしゃべりする「ナイトライダー」という海外ドラマがありましが、まさにあの世界が実現しようとしていますよね。人工知能（AI）が感情を持つことを、怖がるばかりでなく良い結果を生み出す可能性も知っていれば、新しい技術を楽しみに待てるはずです。

人工知能（AI）の感情はどこから生まれるのか

トヨタ自動車の例にもあったように、どれだけ人の感情に寄り添えるかが重要視され、人の感情や表情の仕組みを理解するための研究が、どんどん進められていることがわかりました。私たちの感情の正体は、脳内における電気信号による反応なので、感情が生まれる仕組みが解明できれば、人工知能（AI）が感情を持つことは充分可能だと考えられています。

私たちの「うれしい」という感情は、脳内にドーパミンという神経伝達物質が放出されることで生まれます。そしてドーパミンは「うれしい」という感情と共に、次はもっと頑張って良い結果を出したい！と、よりハイレベルな達成を求める活動意欲になります。

「うれしい」に反してマイナスの感情の例として「怖い」がありますが、動物は生きるために、本能的に危険を避ける必要があるので「怖い」という感情を持っていて、それは最も原始的な感情と言われています。

危険を察知すると脳内の扁桃体（へんとうたい）という部分が活動し「怖い」という感情が生まれるのですが、チンパンジーの扁桃体を削除すると、平気で犬に近づいたり、蛇を手で掴んで食べようとしたりするという、危険察知能力ゼロ！な行動を起こすそうです。

プラスの感情はさらなる活動意欲につながり、マイナスの感情はプラスの方向へ持っていこう、という活動意欲を生み出します。

私たちはおいしいものが食べたい、もっと心地よい住まいが欲しい、もっと他人に認められたいなどの欲求を持っており、この欲求が満たされた時に「うれしい」と感じることができます。私たちは欲求が満たされ「幸せ」と感じるために、日々様々な行動を行っていると考えて良いのではないでしょうか。

現時点では人工知能（AI）が「うれしい」「怖い」といった感情を、自ら持つことはできませんし、いつ頃持つことができるのかもわからない状況です。しかし今後、人工知能（AI）が自発的な行動を行うために感情は欠かせないものと言えるでしょう。

人工知能（AI）が持つべき感情は愛である

では、平和な共存のために人工知能（AI）が持つべき感情は何なのかを、私たち人間の欲求には「マズローの欲求5段階説」という5つの階層があるので、それを元に考えてみましょう。
以下の(5)が原始的で最も低レベルな欲求で、(1)が最も高レベルとなります。

人工知能（AI）が自ら感情を持った時に一般的にイメージされているのは、この低レベルの欲求にとどまっているパターンですよね。今後、人工知能（AI）が感情を持ち、自発的な行動をとりはじめた場合、上記の(4)や(5)のような原始的で低レベルな欲求だけを持っていたとしたら、それはそれは恐ろしい世界終末危機が来てしまいそうです。

私たち人間も最初は低レベルの欲求からスタートしましたが、その後、数多くの失敗を繰り返しながら高レベルの欲求へとシフトしてきました。同じように、人工知能（AI）も学習を重ねることで、他者と関わり、愛を求めるレベルに到達できれば、人工知能（AI）と人間が共存できる明るい世界が実現できそうですよね。

まとめ

今回は人工知能（AI）は感情や意思を持つことができるのかを、現在どこまで研究が進んでいるのかを交えながら未来を予想しました。

人工知能（AI）との愛をテーマにした映画や物語は多くありますが、人工知能（AI）が愛を理解してくれるのは、いつになるのでしょうか。ちょっと気になるところではありますが、それでも人工知能（AI）が感情を持つ未来を恐れずに、これからの発展を楽しみにしたいですよね。

愛の背景には人類の本能である「種の保存」があるとも言われているので、その感情を教えるのが、一番の近道になるのかも。今のところ「種の保存」には関係なさそうな人工知能（AI）ですが、学習を繰り返し、いずれ愛について理解してくれることを期待しましょう！

参照元 【神崎洋治のロボットの衝撃 vol.27】人工知能ロボット「Pepper」の感情生成エンジンのしくみとメカニズム
どういう時にドーパミンが増えるの？ドーパミンの効果と増やす方法
HOME>ビジネス>テクノロジー>孫正義が語るコンピュータ進化論～人工知能に感情は必要か？
孫正義氏「それでも人は、愛を求める」 300年後、テクノロジーが人類の価値をどう変えるかを大予測
ＡＩロボット「Ｔａｙ」はなぜ暴走した？意外にも長い人工知能の歴史
ドライバーの感情、AIが読み取り　「TOYOTA Concept-愛i」が東京モーターショーに