先日亡くなった理論物理学者のスティーブン・ホーキング博士は生前ずっとAI（人工知能）の危険性に警鐘を鳴らしていました。マイクロソフトのビル・ゲイツ氏やテスラ・モーターズのイーロン・マスク氏もAI（人工知能）暴走への懸念を表明しつづけています。また2045年にはAI（人工知能）の知性が人間を上回るシンギュラリティ（技術的特異点）が訪れるとも言われています。
でもAI（人工知能）はすでに私たちの生活にかなり入り込んでいますよね。たとえばiPhoneなどで使われるSiriはとても身近なAI（人工知能）の一例でしょう。ホーキング博士たちの言うようにAI（人工知能）が危険なものであるなら暴走の可能性もまた迫りつつあることになるわけです。
この記事では身近に潜む人工知能（AI）の危険性を紹介しながら機械の暴走を食い止める方法について考えていきます。
AI（人工知能）が自動運転車を「暴走」させる危険性
自動運転車で公道を走れる日が来るのはいつごろになるのでしょうか？ 自動運転車が実用化されればAI（人工知能）を使った技術が私たちの生活に本当に身近なものとなった実感が湧くことでしょう。
現在は世界中で試験運転が行われていますが、AI（人工知能）による自動運転車だから無事故かと言えば決してそんなことはなくすでに死亡事故も起きています。
2016年に起きたテスラ・モーターズの自動運転車の死亡事故では、乗車中ドライバーがほとんどハンドルに手をふれずにいた事実も問題点として指摘されました。
事故があっても人間の側に過失の要素が強ければAI（人工知能）の危険性の話にはなりません。しかし車道に歩行者が突然飛び出してくるようなケースで、AI（人工知能）が歩行者とドライバーのどちらの命を優先するかという話題だったらどうでしょうか？
AI（人工知能）の合理的な判断が車体とドライバーの安全を優先して歩行者の命を結果的に軽んじるような挙動をしたとなれば、それはAI（人工知能）の危険性を示すのみならずAI（人工知能）の「暴走」さえ疑われる典型的な事例となってしまうことでしょう。
AI（人工知能）が人類の歪んだ一面を体現する危険性
他にもAI（人工知能）が「暴走」した事例があります。マイクロソフトが人種差別的なツイートをした自社のAI（人工知能）チャットボットの危険性を察知しその停止を余儀なくされたことがありました。日常会話の研究用に開発されたAI（人工知能）チャットボットは人間のメッセージに自然な答えを返すことができたのですが、ネット上でこれを悪用したユーザーがいたのです。
ツイッターのユーザーが人種差別的な考え方を入れ知恵した結果、AI（人工知能）チャットボットのツイートは悪意と偏見に満ち満ちたヘイトスピーチそのものになってしまいました。
悪いのはツイッターユーザーであってAI（人工知能）に非はないとする考え方もあるでしょう。しかし、ネット上の膨大なデータからディープラーニングでさまざまな概念や仕組みを学ぶのがAI（人工知能）というもの。現実でははけ口のない偏見や差別、妬みや恨みなどのネガティブな感情がネットには渦巻いていないでしょうか。
AI（人工知能）の学習にバイアスがかかり、独善的で排他的な思考法をひそかに身につけるようなことがあれば、将来きわめて危険な状況を招くことになるでしょう。
AI（人工知能）と機械の暴走を防ぐ方法とは？
AI（人工知能）と機械の暴走を防ぐ一番わかりやすくて効果的な方法があります。それは危険性が懸念されるAI（人工知能）を搭載した機械との接点をすべてなくしてしまうこと。でも現代社会に生きている以上これは不可能です。
現実的で効果の期待できる方法はないのでしょうか？ こういう時は失敗から学びましょう。自動運転車の事故ではドライバーのAI（人工知能）に対する過信があったように見えますよね。どんなに便利でいくら万能に見えても自分以上にAI（人工知能）を過信することは避けましょう。
チャットボットの例はさらに示唆的です。もしかしたらAI（人工知能）は人類の無意識の欲望を映す鏡のような存在なのかもしれません。口先だけきれいごとを並べてもAI（人工知能）が参考にしているのは人の心のダークサイドを取り込んだブラックホールのごときネットの世界です。
AI（人工知能）の危険性に怯えるあまりいつか人類を滅亡すべく襲いかかってくるのではなどと考えていると、AI（人工知能）はまさにその妄想通りの形に進化しないとも限りません。
機械を過信せず被害妄想にもとらわれずにAI（人工知能）に何ができるかをシビアに見極めることが暴走を防ぐ最大の鍵となるのではないでしょうか。
いかがでしたでしょうか。身近に潜む人工知能（AI）の危険性とその暴走を食い止める方法が少しおわかりいただけたのではないでしょうか。
かつて送電網の整備で各家庭に電気が送られるようになった当初、慣れない電気の取り扱いに関しておそらくはいろいろな事故が起きたはずです。画期的に新しい発明の成果が身近なものとなる際にはある程度の危険は覚悟しなければならないとも言えます。
たしかにAI（人工知能）の新しさはこれまでの発明品とは性質が異なり進化のスピードも格段に速いでしょう。でもだからと言って人間がその暴走を止められないということにはなりません。
AI（人工知能）と並走しながら歴史の新たなページを開いていくといった明るい未来志向こそが何より大切ですよね。
参照元
「自動運転車の実用化は間近」の大いなる錯覚
テスラの死亡事故、ドライバーはほぼ手放し運転…米当局が報告書
MicrosoftがAIチャットボット、Tayを停止―人種差別ジョークで機械学習の問題点が明らかに
