AIとは何か

「人工知能は怖い」と言われる理由。リアル最悪事態10選

「人工知能は怖い」と言われる理由。リアル最悪事態10選

人工知能(AI)の進化に日々盛り上がる一方、叫ばれるその危険性。人工知能(AI)は人間にとって怖い存在になると警告を発していますが、それを過剰反応とすませるのは簡単ですよね。実は、テレビや小説で描かれているように人間が人工知能(AI)に支配されたり、殺されたりする未来はすぐそこまで来ているのかもしれません

既に私たちの日々の生活の中で、役立つ存在である人工知能(AI)。医療の現場で難病を特定してくれたりと、今後の更なる活躍を期待されています。人工知能(AI)は様々な分野で、人類の助けになってくれる頼もしいテクノロジーであるはずです。

そのテクノロジーが人類を超え、一人歩きしてしまうなんてことが起こるのでしょうか。人類は人工知能(AI)と共存する味方同志であるはずです。人間が作ったテクノロジーなのですから。人類が自ら人類の脅威となる存在を生み出すとは思えません

それでは今回は、実際問題、人工知能(AI)は怖いのか、また実際に起こる、あるいは起こるであろうと言われている最悪事態を考えます。

人工知能(AI)に仕事を奪われる危険性

人工知能(AI)に仕事を奪われる危険性イメージ
果たして自分の職種は大丈夫なのかとドキドキさせられます。オックスフォード大学のマイケル・A・オズボーン准教授が論文で702種類の職種すべてについて、コンピューターに取って代わられる確率を掲載したことで話題になりました。現在でも新聞や雑誌で仕事が人工知能(AI)に仕事を奪われるという記事が度々掲載されています。

そんな話を聞くと、人工知能(AI)に仕事を奪われた集団と仕事がある集団に分かれ、極端な格差社会が到達するのかと思うと、人工知能(AI)は怖いと感じてしまいますよね。

しかしボストン大学の経済学者ジェームズ・ベッセン氏は、一時的に雇用は無くなる可能性はあるが、産業全体としてみたときに雇用を増加させるだろうと言っています。これまでも新しいシステムが導入され、一時的に雇用が減らされることはあっても、その後雇用が増大しています。

確かにこれまで何度か産業革命がありましたが、経済の成長とともに仕事も増えていますよね。人工知能(AI)の導入だけを考えると。劇的な変化の波に襲われる不安感と先行きの不透明さから、人工知能(AI)に仕事を奪われるのが怖いと思ってしまいますが、そのような事態は、一過性のものでそう簡単に仕事は無くならないでしょう

人工知能(AI)が悪用される危険性

人工知能(AI)が悪用される危険性イメージ
オックスフォードで14機関の専門家26人の専門家が、人工知能(AI)の危険性についてワークショップを開きました。その結果をまとめた報告書「悪意ある人工知能の利用」で、人工知能(AI)の悪用はすでに可能で、機は熟していると警告しています。そして如何に人工知能(AI)が怖いのかがよくわかる、犯罪利用4つのシナリオが掲載されています。

シナリオ1 よりずる賢いフィッシング詐欺
シナリオ2 マルウェアの感染拡大
シナリオ3 刺客ロボット
シナリオ4 独裁権力の強化

刺客ロボットは、掃除ロボットに顔認証システムを搭載し、特定の個人のそばに近づき爆発するというもの。独裁権力の強化は、抗議行動を実行するための看板や発煙筒などを購入した人物を警察が事前に把握し、逮捕するというシナリオです。

人工知能(AI)が自爆テロと化す怖いシナリオですが、現実に起こりそうでぞっとします。プログラミングするだけで、操作する必要はないのです。ロボットが相手を探し出し、殺してしまうのです。

殺人目的で人工知能(AI)を利用する側と、国家安全のために人工知能(AI)を利用する体制側、そのどちらも怖い存在となるでしょう。また人工知能(AI)を利用して巧みな詐欺行為が横行するという誰もかれも信じることができない未来が待ち受けているかもしれません。

オープンソースが悪用される危険性

オープンソースが悪用される危険性イメージ

大企業はビッグデータを守り、人工知能(AI)のプログラムはオープンにしています。ビッグデータが無ければ人工知能(AI)が学習できないので、大丈夫だろうということなのでしょう。しかし本当にそうなのでしょうか。プログラムだけが悪用されることは充分に考えられます。特定の団体が人工知能(AI)を独占するのも怖いのですが、オープンになっているのも同様に怖い状態に変わりはありません

人工知能(AI)の事故やミスが起こる危険性

人工知能(AI)の事故やミスが起こる危険性イメージ

機械の誤作動は、よくあることです。人工知能(AI)も同様に誤作動は起こります。それが周囲に対して危害をもたらすような誤作動でなければいいのですが。

実際にアメリカでAmazon Echoの意図せぬ誤作動により、プライベートな会話の音声データが部下に送信されるという事件がありました。どうやらプライベートな会話の中に、Amazon Echoを起動、音声録音、部下に送信という指示にとれるようなキーワードがあったのだそうです。

人工知能(AI)がスパイのようで怖いですよね。これからは人工知能(AI)に聞かれているかもしれないプライベートな会話にも細心の注意が必要な時代になってきました。

人工知能(AI)が兵器に利用される危険性

人工知能(AI)が兵器に利用される危険性イメージ

このテーマはNHKのWEB特集でも取り扱われています。また国会議員の間でも超党派で人工知能(AI)兵器の利用規制について考える勉強会が行われるなど、現実はすぐそこにまで迫ってきています。

人工知能(AI)が自ら学習し、何を、あるいは誰を標的とするのか判断し、戦う世界では、兵士と兵士が直接戦いあうのは時代遅れとなります。司令官は安全な場所で、人工知能(AI)ロボットを戦わせるため、戦死する兵士はいなくなります。だとしてもリアルの世界で人工知能(AI)ロボットがミサイルを発射するわけですから、兵士は生き残っても、民間人の犠牲は無くなりません。

ナノロボットに食べられてしまう危険性

ナノロボットに食べられてしまう危険性イメージ

現在、アメリカ国防総省の機関DARPAが、アメリカ軍のための開発プロジェクトの一環として戦術的エネルギー自律型ロボットの開発を進めています。これはロボットが、自身の活動に必要な植物などを自ら探し出し、燃料補給を行う自律型ロボット車両なのです。

車両と聞くと、天然のバイオマスだけで走るにはどれだけ食べたら、どれくらい走れるのだろうかと想像し、牛のイメージを思い浮かべてしまいますが、しかしこの技術がナノロボットに応用され、戦場のゴミをただひたすら食べ続けるように設計されたとすると、果たしてナノサイズのロボットにどれがゴミか選別することはできるのだろうか、戦場の死体をも食べるのではないかと怖い気持ちになってきます。

独占する団体があらわれる危険性-デジタル専制(独裁)主義

独占する団体があらわれる危険性-デジタル専制(独裁)主義イメージ

もはや資本主義やグローバル主義は時代遅れなのかもしれません。2018年のダボス会議では、「デジタル専制(独裁)主義」がテーマとして扱われたとのことです。ビッグデータと人工知能(AI)を握るものが世界を制す。持てる者と持たざる者に別れる世界が間近に迫りつつあります。そして中国は、資本主義はコストがかかるとデジタル専制(独裁)主義に舵をきり、突き進んでいます

ダボス会議でこのテーマで講演したユヴァル・ノア・ハラリ氏によれば、コンピューターとサイエンスの進化によって、人間のバイオメトリックデータを解析し、人間をアルゴリズムに還元することができるようになり、人間をハックすることが可能となるとのこと。

そしてそのアルゴリズムは本人よりも本人を知るアルゴリズムとなり、欲望を予測し、感情を操作できるようになり、意思決定を誘導することができるようになります。本人の知らぬ間に本人を乗っ取ることができる。これがデジタル専制(独裁)主義です。

2045年問題 人工知能が人類を超える日

2045年問題 人工知能が人類を超える日イメージ

遅くとも2045年には全人類を合わせた知能をも超える知能を持つAI(人工知能)が誕生し、AI(人工知能)は人類が予測できない存在になる時点(技術的特異点、シンギュラリティ)がやってくると言われています。この技術的特異点に到達した時、人工知能(AI)は自らを規定しているプログラムを自身で改良して、それは永続的に指数関数的な進化を遂げていくのです。

これより以降は、人工知能(AI)が人工知能(AI)を開発するようになります。人間の発明は人工知能(AI)が最後となってしまい、それ後何かを発明することは無くなってしまうであろうと予想されています。

人工知能(AI)が人類に取って代わる

人工知能(AI)が人類に取って代わるイメージ

2045年問題以降は、人類がスーパーコンピューターに支配される日が来ると言われています。その時人類を超えた人工知能(AI)は、人間をどのように認識するのでしょうか。人工知能(AI)よりも劣った生き物と映ったり、環境を破壊し、同じ種族の人類同志で争ってばかりいる地球破壊者と認識するかもしれません。

そして人間より優れた存在である人工知能(AI)が人間を管理すべきだとの見解に至るかもしれません。

機械に依存し、止めることができなくなる

機械に依存し、止めることができなくなるイメージ

人工知能(AI)による支配により、人間の環境が激変するかもしれません。不満分子も多数現れるでしょう。人工知能(AI)を止めて人間らしさを取り戻そうと考えるかもしれません。しかし人工知能(AI)を止めてしまったら、その時の人類は、生きていけるのでしょうか。誰もが生きていく上での不安を感じ、人工知能(AI)を止めることが出来なくなっているかもしれません

人工知能は怖い」と言われる理由。リアル最悪事態10選イメージ

以上、人工知能(AI)が実際に起こす可能性がある10項目をご紹介しました。こういう話を聞くと人工知能(AI)は怖いと思い込まされますよね。それもそのはず、今回ご紹介した内容は、SF小説や、映画の世界の話と思われてきた内容がそのまま現実のこととして問題になっていて、世界中の有識者が真剣に議論しているのです。

本当にそんなSFみたいは話が現実に起こるのかと眉唾で聞いてしまいがちなのですが、アイザック・アシモフのSF小説にあるロボット三原則のような、安全に人工知能(AI)を使用するためのルール作りは必須であり、急務なのです。

人工知能(AI)は怖い存在で、私たち人類を脅かすために生まれてきたのではなく、私たちの生活がより楽に、より幸せになるために生まれてきたテクノロジーです。生み出した我々人間が、人工知能(AI)が道を外れたり、悪い人間に利用されたりしないように見守り育てていかなくてはならないのです。

そのためには人工知能(AI)というテクノロジーやビッグデータを、大企業や国がどのように使おうとしているのかを世界中の人々が、常に関心を持って監視していく必要があるのではないでしょうか。そして未来のために、人類と人工知能(AI)が共存し発展していく明るい世界が思い描けるよう努力していく必要があります

コメントをどうぞ

  1. あの より:

    大切なのは人がどう使うかだと思います。

  2. 石橋洸 より:

    光と影がある、心にも世界にも
    それは君を試している
    決して 終わる事の無い戦い

  3. 匿名 より:

    時の為政者に支配というか国をコントロールされるのと
    合理的かつ、人のしがらみなどがないAIに支配されるなら
    後者を選ぶわ
    自己の権益や人の繋がりのないAIの方が遥かに良い方向に人を導いてくれそう

  4. 匿名 より:

    良い心を持った人工知能であれば、共存できるはず

    • タケル より:

      いい心を持った人工知能が多くなればいいですよね!

トップへ戻る
タイトルとURLをコピーしました