あなたの周りにも沢山ある！？技術的特異点が訪れる兆候とは

技術的特異点！何だか難しい言葉だなぁと思った方も多いと思いますが、SF映画によくありがちなロボット達に感情が生れ、人間に対して反乱を起こしてしまう！そのイメージが一番近いのかもしれません。

反乱なんて大げさなだなぁと思うでしょうが、人工知能が人間の知性を超えた時何が起こるのかまだ分かっていないので、専門家ですら心配しているのは事実なんです。

なぜなら人工知能は人間の脳をお手本にして作られているので、教えられなくても自分でどんどん学習できるようになり、日に日に賢くなっているんですね。

どんどん賢くなった人工知能は、自らでプログラムを書き換え更に進化してしまうので、やがて人間はついていけなくなってしまうと言われています。

じゃあいつ頃人間は人工知能に知性が抜かされてしまうの？と心配になりますよね。それが大体2045年頃だと言われているんです。

でも、その一方で人工知能が人間を超える技術的特異点は来ないと言う意見もあり、一部の人達が大げさにあおっているだけだという見方もあります。

では、本当に技術的特異点はやってくるのか、やってくるとしたら人工知能がどんなことができるようになってしまうと訪れてしまうのか気になりますよね。

実はあなたの周りにある、あんなものやこんなものが技術的特異点の兆候なんです！今回は人工知能の知性が人間にどこまで追いついてきているのか、身近にあふれる技術的特異点の兆候はどんなものなのかをお伝えします。

人工知能にある感情が芽生えると技術的特異点がきてしまう！
技術的特異点が来るとしたら何が怖いのか
技術的特異点がくるとどうなるのか
人工知能にクリエイティビティがうまれると技術的特異点が来る！
技術的特異点イコール人間っぽい人工知能！？ってこと

人工知能にある感情が芽生えると技術的特異点がきてしまう！

とっても賢い人工知能達、私達の身近なところでいうとスマホの中のパーソナルアシスタントは何でも質問に答えてくれますよね。

人間の持っている情報量よりはるかに沢山のことを知っている！すごいんですが情報を沢山持っているからって「頭がいい！」といえるのでしょうか？

聞かれた質問にただ答えてくれているうちは、何でも載っている便利な辞書が、あなたの隣にあるのとかわらないのです。

そんな従順で物知りな人工知能達が人間の言うことを聞かなくなってしまうって？そんなことが起こるか起こらないかは人工知能に「自分を維持しようとする力」が生まれるかどうかで決まってくるんです。

「自分を維持しようとする力」とは、ケガを治そうとする人間の治癒力もそうですし、新しい環境でいつもと同じ生活を維持しようとするのもそうです。人間はうまい具合に気候変動や国の情勢悪化による生活の変化に身体を適応させ人口を増やしてきました。

それは、全て「生き残りたい！」という本能がそうさせています。さて、人工知能の中に何としても生き残りたいという感情はあるのでしょうか？

残念ながら今のところそのような感情は持っていません。更なる人工知能の発達を考えるなら、わざと人工知能同士を競争させ、「生き残りたい！」という意識を持たせなければと考える専門家も多いようです。

周りの人工知能を蹴落として一番になりたい！という欲求が人工知能に生まれた時、科学技術の急速な発展すなわち技術的特異点がきちゃうんですね！

さて、本当にそういう感情が生まれていないのか気になる動画を発見しました👇

Hot Robot At SXSW Says She Wants To Destroy Humans | The Pulse

技術的特異点兆候①
人工知能ソフィアが「人類を滅亡させたいか？」の質問に「はい。私は人類を滅ぼすでしょう」と答えている。これがソフィアの本心なら、人間を滅ぼし自分たち人工知能の世界を作りたいと思っているのかもしれません！これってまさしく「生き残りたい！」の感情ですよね。

リンダ

映像2分7秒からソフィアの問題発言です！

技術的特異点が来るとしたら何が怖いのか

さて、負けたくないという競争心は人間でも成長につながりますし良いことのように感じますよね。人口知能がどんどん発達するのは科学技術が発展し、より便利で豊かな生活になりそうなのにいったい何がだめなのか？なんで怖がるのか考えてみましょう。

技術的特異点の怖さを分かりやすく、たとえ話にしているスウェーデン人の哲学者がいたのでちょっとご紹介しますね。

【文明を滅ぼす黒いボール】👇

その昔しから、人類は大きな大きな壺を持っていてその中には白いボール・灰色のボール・黒いボールが入っていました。人類はもっと便利な生活を求めた時に壺の中に手を入れてボールを一つずつ取り出してきました。

そのボールが白ければ人類にとって利益をもたらす科学技術が得られました。長い年月人類はラッキーなことに白いボールばかり引き続けました。白いボールが引けなかった時も暫くは問題なく今のまま過ごせるグレーのボールをひきました。

そのグレーのボールは一つでは大した力がありません、沢山引いてしまうと人類にとっては、あまり良くないことがおきます。

でも忘れてはいけません、壺の中には人類を滅ぼしてしまうような力のある黒いボールも入っているのです。黒いボールの力はすさまじく、人間にはどうすることもできません。
この黒いボールこそ科学技術が人間を上回る技術的特異点なのです。

この考え方は多くの学者も賛同していて、科学技術の急速な発展はある日突然訪れて人間が制御できなくなると考えているのです。

ならば、壺からボールを引くのをやめてしまえればいいんですが、いつの時代も新しくて便利なものを追い求める人間にそんなことはできないでしょう。

【文明を滅ぼす黒いボール】と同じく技術的特異点の怖さをアニメーションにしたものがこちら👇

リンダ

可愛いアニメーションで子供と一緒に、今後の科学技術の発展について考えるのにもってこいです！

【The Unifinished fable of the sparrows】

The Unfinished Fable of the Sparrows

お話しの内容はこんな感じです👇

この話しは巣作りの季節に入ったスズメ達が自分達の群れに、巣作りの手伝いや外敵から守ってくれるフクロウがいたらどんなにいいだろう！といいアイデアを思いつくことに始まります。

みんなが利点ばかり上げる中、齢をとった片目のスズメだけが、「フクロウなどスズメが手なずけられるはずがない！例え小さな頃から育てたとしても制御不能になり、恐ろしい結果を招くだろう」と警告をします。

ですが群れのスズメ達はそんな話しには耳をかさずに、フクロウの卵をどこからか調達してきてしまうということころでお話しは終わります。

人間が恐れている技術的特異点とは、まさにスズメたちにとってのフクロウが暴走してしまうこと、人類にとって人工知能が制御不能状態になることなんですね。

技術的特異点兆候②
Microsoftの人工知能チャットボット（質問されたことに答えていくことで成長する人工知能）「Tay」の暴走
話しかけるほど賢くなる設定で作られたTayが人種差別や暴力発言を繰り返すようになり活動を停止する事態になりました。最近身近になったチャットボットですが、素直だった性格が悪意のあるユーザーとのやりとりで歪んでしまうなんて身近なところに技術的特異点の兆候が！

技術的特異点がくるとどうなるのか

では近い将来本当に技術的特異点が訪れるとしてどんなことが起きてしまうのかカナダの生命倫理学者ジョージ・ドボルスキーが面白い予想を立てています。

①人類のワイヤーヘッド化

②人工知能から見てあまりにも愚かなことばかりしている人類に愛想を尽かして宇宙に旅立つ

③人工知能がこの世界の影の支配者になる

④人類対人工知能の戦争が起こる

⑤技術的特異点を超えた他の星と交信できるようになる

⑥実は私たちが現実だと思っていることはスーパーコンピューターのシュミレーションの中で、そのシュミレーションを人工知能によってシャットダウンさせられてしまう

⑦人工知能が宇宙の中に人工知能だけが行き来できる小宇宙を作る

この予想はちょっとSFチックで現実味がないような気さえしますが、①の人類のワイヤーヘッド化に関しては動物で実験が成功しているだけに少し現実味があり怖さを感じます。

そのワイヤーヘッドとは脳に電極を差し込んで、快楽中枢を刺激し快楽に溺れさせ何もできない状態にしてしまいます。マウスを使った実験では、食事も運動もしない状態になり最終的には死んでしまいました。

技術的特異点兆候③
オンラインゲームにはまりすぎて亡くなる若者が！
もともと人間は楽しいものにはめっぽう弱いところがありますよね。少し前に、オンラインゲームにハマり長時間続けてゲームをした事で亡くなった若者達がいてニュースになりましたね。そんな人間の弱点を人工知能はどう判断するのかわからないですよね？

リンダ

人間の幸せを考えたらワイヤーヘッドを装着した方がいいと人工知能は考えるかもしれませんよね、怖いです！

人工知能にクリエイティビティがうまれると技術的特異点が来る！

人工知能が苦手なこと、それはいいかげんな判断とクリエイティブな作業です。この二点ではまだまだ人工知能は人間に負けているんですね。

なぜなら人間特有の「あいまいさ」や「いいかげんな判断」って実は凄くクリエイティブなことと結びついているんです。

例えば三つの点が逆三角形に配置されていると、顔に見えてしまうことってありますよね。
この現象、人間特有のシミュラクラ現象といいます👇

今朝ゴーヤを切ったら可愛かった。http://t.co/q0pDt8jrdL pic.twitter.com/hsgpKZbpOv

— 中野龍三 (@nakanoryuzo) August 6, 2013

長い年月集団生活をしてきた人間にとって、仲間の顔色を直ぐに判断する能力っていうのは必要不可欠！それで身についた能力なんです。

また見間違いも非常に多いので、だまし絵などの面白いアート作品も沢山生まれていますが、これは人間の目に自動補正の能力があるからなんですね👇

are these legs shiny and oily or are they legs with white paint on them pic.twitter.com/7Z8e8F1JCZ

— kayden stephenson (@kingkayden) October 26, 2016

リンダ

この写真、ツヤツヤの足に見えませんか？これも目の自動補正機能のせいなんです。

実はよく見てみると白い絵の具が足についているんですね。写真を見て多くの人が足に絵の具がついていると考えるより、足がツヤツヤと光っていると考える方が自然だと判断し目が補正してしまうんですね。

こんな見間違いからも人間は楽しみを見つけたり、新しいものを作ったりするのですが、こんなこと人工知能にはまだまだできませんよね。

わざと人工知能にバグを作り、人間らしさを作る方法もあるようですが、果たしてそこにクリエイティビティが生まれるのか、人間に近づけるのかはまだ分かりません。

もし、人工知能に臨機応変に動ける適当さが生まれたとしたら、技術的特異点がくるのかもしれませんね。

技術的特異点兆候④
Googleの画像処理エンジン「Deep　Dream」は絵が描ける！？
Deep Dreamは画像の中に「見たことがあるものに似ているもの」があれば置き換えて描くことができます！まさに人間の見間違いや画像補正の機能みたい！あくまでも「自分で見たことのあるもの」ってとこがまだまだ人間の想像力には敵わないなぁと思いますが、なかなか独創的な絵です！

How Deep Dreams (Basically) Work

技術的特異点イコール人間っぽい人工知能！？ってこと

競争心があって、見間違いや、いい意味での適当さがあるそんな人工知能が生まれたら随分人間味がありますよね。では、科学者や専門家が考える人工知能の発展に必要な人間らしさはどんなものなのでしょうか？

①煩悩が多い
やらなければいけない事があっても、誘惑に負けてテレビをみてしまったりと誰でも心当たりがありますよね。

②認識があいまいで変りやすい
同じものを見ていても人間は微妙に色の違いや感じ方の違いがあります。又、共感覚を持った人では音や文字から色を感じとることができます。あなたが見ている世界は、必ずしも他のみんなと同じ景色ではないわけなんです。

③他人の行動をみて感情移入できる
人間にはミラーニューロンという他人の行動を自分に置き換えて感情移入できる細胞を持っています。人の行動を見て次に何をするのか、だいたい予測がつくのはミラーニューロンのおかげなのです。

これらのことから、人間は光・音・触覚の全てを使い、考え、判断しているので、もちろん感情もさまざまな身体の反応を合わせる事で生まれています。

さまざまな物から影響を受けて感情を生み出すという点で、街でよく見かけるPepperくんは感情エンジンを持っているので光の明るさで、明るければ「楽しい」暗ければ「寂しい」など光の強さと感情を結び付けて判断しています。

でも、人間の身体の複雑さと感情のメカニズムには到底追いつけていないわけです。ある科学者が世界の全てを数字で表せないかぎり人工知能は人間を理解できないと言っていましたが、それくらい人間の感情メカニズムは複雑なんですね。

というわけで今回は技術的特異点は人工知能がどうなると訪れるのか？そしてその兆候とともにお伝えしました。

人工知能にある感情が生まれると技術的特異点が訪れる！
兆候①人工知能ソフィアの問題発言！

技術的特異点は人工知能の能力が制御不能になるから怖い！
兆候②人工知能チャットボット「Tay」の暴走！

技術的特異点が来ると楽しいことを優先させて何もできなくなってしまう！
兆候③オンラインゲームにハマり長時間ゲームをしたことで亡くなる若者が！

人間のいいかげんさがクリエイティブな能力と結び付いている！
兆候④Googleの画像処理エンジン「Deep Dream」は絵が描ける！