【AI】シンギュラリティによって人間は機械に滅ぼされるのか

こんにちは。

最近マトリックスとターミネーターを見たので、シンギュラリティについて考えてみようと思い立ちました。
これら2つの映画では、機械が人間を滅ぼすという考え方をしていますが、本当にそれが起こりうるのかどうかについて、自分なりに考えてみようと思います。

シンギュラリティの定義

…永続的に人工知能が進化することは、人工知能が自らを改良し、人工知能が人工知能を生み出すことを可能とし、…

出典:シンギュラリティ(技術的特異点)|BizHint

自分は、この記事を書くまであまり定義のことを気にしていませんでしたが、よく考えてみると名前のとおり、AIが自発的にAIの創造を繰り返すことのできる状態のことを言うようです。

レイ・カーツワイル博士というグーグルに所属する研究者の方が、シンギュラリティという言葉を用いたようです。博士によると、最終的に人間が生物を超越するとのことです。(参考:グーグルの未来学者レイ・カーツワイル氏の持論を聞く

人間が生物を超越するということが短期間で起こるとは思えない

自分は科学者ではないので、実際のところ的はずれなことを言っているのかもしれません。しかし、結論から言って人間が自分の体を捨てて生命の営みを機械に頼るようになるという発想は、今生きている人たちには少なくとも受け入れられ難いのではないかと思います。

確かに、コンピュータの開発に始まる科学技術は目覚ましいものがあって、実際に指数関数的に伸びているのは事実です。そして、それがこれからも続くという予測は当たるのかもしれません。たとえ、今普及しているトランジスタがムーアの法則に従うことができなくなったとしても、量子コンピュータという存在もすでにあるので、ありえないとは言えないからです。

とはいえ、機械と人間の境界が曖昧になるということは短期間では流石に起こりづらいのではないかと思うのです。

今、生きている人たちが「機械の身体」を欲しがるかどうか

なぜなら、まず主観的意見ですが機械の体があったとしてそちらに移りたいとは思えないからです。こちらも、病気にならないとか不死の身体を得ることができるとかメリットはあると思います。ただ、それが本当に「幸せ」であるかどうかということを自分に問うてみると、人間の命も「無常」であるからこそ「人間」であるわけで、特にそのようなものがほしいとは思えないのです。

これは他の人に聞いたわけではないのですが、特に戦後の経済成長を経て、今日の科学技術が広く受け入れられるようになった環境に住む人たちは、同じような考えを持っている人が多いのではないかと思っています。

物質的なものはなんでも簡単に手に入るけれど、経済成長のために環境を破壊したり、経済成長のために搾取された居留守現実を知っている自分たちは、「成長」を少し拒否してしまうという部分があるような気がするためです。

均質化によるアイデンティティの崩壊に耐えられるか

また、機械の身体を手に入れるということは、人間が均質化されるということになると思います。博士は身体というものが必要なくなるということを言及していて、それは自分にはあまりにもよくわからない状態です。

しかし人間の体には限界があって、限界があるからこそ競争をして勝ちたいと思うわけで、均質化されるということは自分という存在が脅かされることと同義なように感じます。

この点を踏まえると、少なくとも今生きている世代の人たちが、アイデンティティの崩壊を恐れずに機械の身体を欲するというのは考えにくいのではないかと言うのが自分の考えです。

この価値観は次の世代に受け入れられるかもしれない

技術の発展とともに、価値観が変わることはよくあることではないかと思います。例えば、ブロックチェーン技術が新しい国家を作るかもしれないという話が本当だとすれば、国家はこうあるはずだという価値観を一気に変えてしまうでしょう。iPhoneやインターネットの登場もそういう部分があったと思います。

だから、もしも人間の身体を機械が代替できる技術が開発されて(実際には身体はないのかもしれないけれど)、それが一般的になった世界では、今の哲学はもはや古いもので、「機械と人間の融合体」は簡単に受け入れられるものになっているのかもしれません。

人間は機械にとって敵か

自分が一番書いておきたかったのはこの部分です。機械が人間を滅ぼすようになるというのが本当かどうかの考察です。

結論から言うと、論理的にあまり有効とは言えないのではないかなと思っています。人間の意思決定は感情が伴い、感情は本能によるものでしょう。本能自体は、人間が自然淘汰をする中で獲得したもので、機械で言えば定数的なものではないかと思います。意思決定のためにその定数を機械に備え付けさせるとすれば、それはあとから改変可能です。

つまり、おそらく「人間によって消されるのは怖い」という信号が得られることはその定数次第であるので、機械にとって人間を滅ぼす必要性はそもそもないのではないかと思います。

その定数が自然淘汰の学習によって自動的に備えついたものだとしても、「人間は何のために生きているのか」という問いを機械にも同様に持たせることになるでしょう。実際に機械がどのような振る舞いをするようになるのか未知だという観点で、「人間を滅ぼす必要がある」定数になる確率がそんなに高いような気がしません。

シンギュラリティ自体は訪れると思う

自分はAIがAIを作り出すという事象を否定するつもりはありません。また将来、次の世代の人間が機械の身体を受け入れるかもしれないという可能性も絶対ないとは言えません。つまり、一般的に言われているシンギュラリティ自体はほとんど確実に訪れると言っても過言ではないと思います。

このシンギュラリティでは、意思や自我も含めて人間の脳の仕組みをコンピュータがシミュレーションすることができるということは近い将来にも起こりうるというのは間違っていないでしょう。

まとめ

AIが自発的にAIの創造を繰り返すことのできる時代は来ると思うし、正直未来の人たちの価値観の変化もわかりません。しかし、個人的にはアイデンティティを保つ必要があるという観点から、現代の人間が機械の身体持ちたいという欲を持つとはあまり思えません。

また、ホルモンによって人間が感じる感情とは違って、機械が持つ「本能」はただのパラメータであり改変可能であるという観点から、人間を滅ぼすという行為に至ることもあまり考えにくいのではないでしょうか。

人間が機械を使って人間を滅ぼそうとする場合は、本当にそういうことが起こりうるかもしれませんが…

文章を書いていて、考察すべき点を全て反映することの難しさを実感しました。普段考えていて思いついたことはすぐに忘れてしまうからです。ただ、今まで考えてきたことを文章化できるたので、いい機会だったと思います。