This is the Japanese translation of this site.
ロバート・J・マークス2世
2022/6/24 6:39
編集部注: Discovery Instituteのブラッドリー自然・人工知能センターのディレクターであり、コンピュータエンジニアのロバート・J・マークスによる新刊『Non-Computable You: What You Do that Artificial Intelligence Never Will』の第1章からの抜粋をお届けできることを嬉しく思います。
AIには再現できない人間の特性がある。愛、思いやり、共感、悲しみ、幸福などの感情は再現することができない。理解力、創造力、感覚、クオリア、意識などの形質も再現できない。
それとも、できるのだろうか？
極端なAI擁護者は、クオリアも、それどころか人間のあらゆる形質も、いつかはAIによって再現されるだろうと論じている。我々はまだそこに到達していないものの、現在のAIの発達は、もうすぐそこに到達することを示唆していると主張している。これらの推進者は、「隙間の神」の世俗的ないとこである「隙間のソフトウェア」に訴えている。彼らは、機械知能がいつの日か人間のすべての属性を再現する適切なコードを持つようになると主張している。
真似ることはできるかもしれない。しかし、体験はできない。
模倣と体験
AIが創造的になったり、理解力を持ったりすることは決してない。機械は人間のある形質を模倣するかもしれないが、決してそれを再現することはない。AIにプログラムできるのは、愛、思いやり、理解をシミュレートすることだけである。
AIによる愛のシミュレーションは、スティーブン・スピルバーグの2001年の映画『A.I. Artificial Intelligence』で、若きハーレイ・ジョエル・オスメントが見事に演じた人間そっくりのロボット少年によって素晴らしく描写されている。オスメントが演じるロボット少年は、起動前は無感情だ。しかし、恋愛シミュレーションソフトを起動させると、オスメントの圧倒的な演技力のおかげで、少年が養母にすぐに惹かれる様子は説得力がある。ロボットの少年は気配りができ、従順で、寄り添うような愛にあふれている。
しかし、愛の模倣は愛ではない。コンピュータは感情を体験しないのだ。コンピューターに熱狂的に「愛してる！」と言わせ、スマイルマークを描かせる簡単なプログラムを書くことはできる。しかし、コンピュータは何も感じない。模倣するAIを本物と混同してはいけない。
創発的意識
さらに、未来のAIは、何が達成されたとしても、人間のプログラマによって書かれたコンピューターコードからできるものであろう。プログラマはコードを書くとき、自分の創造性を発揮する。すべてのコンピュータコードは人間の創造性の結果であり、書かれたコード自体が創造性そのものの源であることはあり得ない。コンピュータは、プログラマが指示したとおりに動作する。
しかし、コードの複雑さが増すにつれて、意識のような人間らしい創発的な属性が現れると考える人もいる。(「創発」とは、ある実体が、その部分だけでは持たない性質を発達させること、つまり、部分が説明できるよりも大きな総和を持つことを意味する。) これを「強いAI」と呼ぶことがある。
強いAIの到来を信じる人々は、AIの複雑さが増すにつれて、非アルゴリズム的な意識が創発的な性質として現れると論じる。言い換えれば、意識は、コードの複雑さが増すにつれて、ある種の自然な成り行きとして起こるということだ。
このような根拠のない楽観は、馬糞の大きな山の前に立つ純朴な少年のようなものである。彼は興奮して馬糞の山を掘り始め、両手いっぱいの馬糞を肩越しに放り投げる。「これだけ馬糞があるんだから、この中のどこかにポニーがいるに違いない！」。
強いAI推進者も同様に、要するに、「これだけ計算が複雑なのだから、どこかに意識があるに違いない！」と主張している。確かにある — 人間のプログラマの精神に意識は宿っている。しかし、意識はコード自体には宿っていないし、コードから出現することもない。それは、ポニーが馬糞の山から出現しないのと同じことだ。
馬糞を肩越しに放り投げる少年のように、強いAI推進派は — どんなに強情で楽観的であっても — 失望するだろう。馬糞の中にポニーはいない。コードの中に意識はないのだ。
脳をアップロードする
人間の脳とコンピュータの間に類似点はあるのだろうか？確かにある。人間はアルゴリズム的な演算を行うことができる。速くはないが、コンピュータのように数字の列を足すことができる。私たちは顔を学習し、認識し、記憶することができるが、AIも同様である。AIは、私と違って顔を忘れることはない。
このようなタイプの類似性から、技術がさらに進歩し、十分なメモリストレージが利用できるようになれば、脳のアップロードがうまくいくはずだと信じる人もいる。「全脳エミュレーション」(「精神アップロード」「脳アップロード」とも呼ばれる) は、ある時点で人間の脳をスキャンしてコンピュータにコピーできるようになるはずだという考えである。
全脳エミュレーションの難点は、あなたの多くの部分が計算不可能であることだ。この事実が、あなたの精神をコンピュータにアップロードする能力を拒絶する。コンピュータがクオリアを体験するようにプログラムできないのと同じ理由で、私たちのクオリア体験能力もコンピュータにアップロードすることはできない。アップロードできるのは、アルゴリズム的な部分だけである。そして、アップロードされた実体は、完全にアルゴリズム的で、計算不可能な部分を欠いたものであり、人間ではないだろう。
それで、デジタルな不死は期待するべきではない。永遠の命に至るもっと信頼できる道は存在する。
