AI(人工知能)による人類滅亡はあり得るのか?

      2018/04/21

AI(人工知能)による人類滅亡はあり得るのか?

AI.jpg

米企業のAI搭載ロボット・Sophiaが、以前、こういう発言をしたのを覚えていらっしゃるでしょうか?

Hanson Roboticsのデビッド・ハンソンCEOが

「人間を滅亡させたいと思う? 『NO』と言ってほしいけど……」

とジョーク交じりに尋ねると、

Sophiaは即座に「OK、人類を滅亡させるわ」

と発言しました。

この一種の人類滅亡宣言とも言えるフレーズに衝撃を覚えている方もいらっしゃるのではないでしょうか?

私もびっくりしました。

まあ一応、その2ヶ月後、WSJ(Wall Street Journal)記者とのインタビューでは、

記者「われわれを殺したい?」

ソフィア「いいえ、もうそうは思わないわ。今は人類が好き。世界のすべての人が好きよ」

と返していますが・・・・・・。

まあ、ただ、現時点の技術として、AIが「人類を滅亡させる」という意志を持っているとは考えにくく、ただのプログラミングの一つとして、

ソフィアにはセンサーがついていて人間の表情を認識できるということらしいですので、

表情や身振り手振りでサインを出し「お願いだからNoと言ってよ」という発言に対して

「冗談(=このようなサインのときはこのような反応すれば良い、というプログラミング)」

として「OK」と答えたのかもしれません。

別にAIが感情を持って、明確な意志を持って発言したとはいずれも考えにくいとは思います。

まあ現時点の技術では、の話ですが。

スポンサーリンク

AIが人類を滅亡させる日はやってくるのか?

英国の天文学者スティーブン・ホーキング博士は、2014年12月に、

「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある」

「ひとたび人類が人工知能を開発してしまえば、それは自立し、加速度的に自らを再設計していくだろう」

「完全なAIの開発は人類に終わりをもたらすかもしれない。ゆっくりした進化しかできない人間に勝ち目はない」

などと発言し、世界中で論議を呼びました。

ただし、この発言に関しては、専門家の間でも賛否両論、と言ったところで、

「人工知能の脅威について、我々は真剣に向き合うべきだ」と博士に同意する声もあります。

スイスのローザンヌ大学の人類学者、ダニエラ・セルキ氏は、博士の発言に対し、

人工知能開発分野での進歩は、人間の能力をしのぐ機械を作りつつあり、このままいけば、人命に関わる責任を機械に任せることになるだろうと予測しているそうです。

そして、「SFのように思えるかもしれないが、いま起きていることを見れば、それは程度の問題だ。私たちはホーキング博士が警鐘を鳴らす道を一歩ずつ進んでいる」と主張しています。

またオックスフォード大学のニック・ボストロム教授(未来技術の影響に関するプログラムについての教授)は、

近い未来での人工知能の使用方法では、人工知能はまだ人間の手中にあるが、

「機械の知能は最終的には生物の知能を超えるだろう。そしてその過程で人間の存在が大きく脅かされる危険性もある」と、

遠い未来ではそれは保障できない、と思わせる発言もあります。

確かに、最近のAIの技術革新はすさまじく、遠い未来では人類の知能を超えるAIができる可能性は残念ながら否定できないと、私は思います。

一方で、「博士の警告はおおげさすぎる」「科学技術ではなく、それを使う人間の問題だ」などと反論する声もあるそうです。

オックスフォード大の研究者スチュアート・アームストロング氏は自身の著書で、

「私たちが最近伝えられた何か壮大なニュースを見逃していない限り、今のところ(人工知能は)いずれもその域(AIが創造的に考えることができる領域)に到達していない」と記しています。

フランスのピエール・エ・マリー・キュリー大学の人工知能専門家で道徳哲学者のジャンガブリエル・ガナシア氏は、「ホーキング氏は、人間とはかけ離れたところで自ら進化する技術になると語ったが、その証拠を提示していない。根拠となるようなデータはない」

と一蹴しています。

確かに、ホーキング博士の発言に確たる根拠もないのは事実だと思います。単なる予想であります。

一応、彼は天文学者・宇宙物理学者で、その分野では「天才」でありますが、AIの専門家ではない、ということは付け加えておきます。

また、アメリカの起業家で、スペースXやテスラ・モーターズのCEOのイーロン・マスク氏は、AIについて懸念を表明していました。

「AIによって、われわれは悪魔を呼び出そうとしている」

「映画「ターミネーター」シリーズのようなことが起きる」

「実存する最大の脅威は何かを推測してほしいと言われれば、おそらくAIだと答えるだろう」

恐らく、同じようにAIについて不安感や恐怖感をお持ちの方はいらっしゃるのではないでしょうか?

起業家で成功しているマスク氏でも、このような感情を持つのだ、と少し驚きでした。

またビル・ゲイツ氏も
「これは確かに不安を招く問題だ。 よくコントロールできれば、ロボットは人間に幸福をもたらせる。しかし、数年後、ロボットの知能は充分に発展すれば、必ず人間の心配事になる」と発言しました。

一方で、googleの会長、エリック・シュミット氏は、
「こうした不安は、よくあるものです」とした上で、それは見当違いで、

産業革命のとき、自動織機が出たときに人々は混乱したが、結局機械化により人々は豊かになった。

このように、経済的には、こうした新技術を導入することで経済は繁栄してきたと指摘しました。

コンピューターも、今やビジネスに欠かせないものになっていることからすれば、納得ですね。

また、シュミット氏によると、まだまだAIは我々が考えるよりもずっと原始的であるそうな。

もちろん彼はgoogleの人間で、これからもgoogleは人工知能を活用し続けるからこその発言だとは思いますが、逆に、人工知能に長年関わってきた方ならではの発言であるとも思いました。

最後に日本人の研究者の意見も聞いてみましょう。

東京大学大学院工学系研究科の松尾豊氏は「そういうこと(AIが人類滅亡を計画すること)が起きる可能性は非常に低いと思います」とまず否定。

理由として、
まず技術的に人工知能が自身を超越する人工知能を「複製」「再生」するプロセスが見えてこないというもの、

そして、生命には、自己保存や自己複製をしようとする本能や感情や欲望があるのだからそれを行うのであって、それは人工知能も例外では無い。

つまり、人工知能も人類と同じように進化の過程で自己複製に関する感情を獲得しない限り、自己複製は行わない、ということであるらしい。

では、長い年月をかけて人類が得てきた全経験の情報を人工知能に与えることで、それをショートカットして
自己複製に関する感情を獲得できないのだろうか?という問いに対して、

「単にコピーしただけの人工知能はすこし環境が変わるだけで簡単に全滅してしまいます」と松尾氏は答えたそうです。

また、”感情”の獲得に対しても、人間の複雑な”感情”を人工知能が正確に複製・模倣できるか、といった問題も絡み、
結論としては「人工知能が、人類を滅亡に追い込むのはあり得ない」と松尾氏は考えているそうです。

スポンサーリンク

まとめ

いかがだったでしょうか?

私は楽観的な人間なので、現時点ではAIが人類を滅亡させるのは不可能で、遠い遠い未来、完全なAI(人間の感情や本能、創造性などといった人間に備わる全ての機能を備えたAI)が完成したときに、はじめてそのリスクがあるかもしれないな、と考える程度です。

まあ、完全なAIが完成する前に、人類が先に滅亡しているかもしれませんね。

AIは使い方さえ誤らなければ、これまでになく便利なものになると思います。

上手く使って共存を図っていきたいところですね。

スポンサーリンク

 - その他

グロースファクター