This is the Japanese translation of this site.
ロバート・J・マークス2世
2022/7/5 12:25
編集部注: Discovery Instituteのブラッドリー自然・人工知能センターのディレクターであり、コンピュータエンジニアのロバート・J・マークスによる新刊『Non-Computable You: What You Do that Artificial Intelligence Never Will』の第2章からの抜粋をお届けできることを嬉しく思います。
セルマー・ブリングショルドとその同僚たちは、欠陥のあるチューリングテストに代わるものとして、ラブレステストを提唱してきた。このテストは、エイダ・ラブレス夫人 (1815年-1852年) にちなんで命名された。
ブリングショルドはソフトウェアの創造性を、ラブレステストに合格することと定義した。それは、プログラマやコンピュータコードの専門家が説明できないことをプログラムが行う場合である。コンピュータプログラムは、意外な、驚くべき結果を生成することがある。コンピュータプログラムから得られる結果は、しばしば予期されないものだ。しかし、プログラマーが振り返っても説明できないような結果を、コンピュータは創造するか、が問題となる。
創造性 (ひいては意識や人間らしさ) を評価する場合、チューリングテストよりもラヴレステストの方がはるかに優れたテストである。もしAIが真にプログラマーに説明できないような驚くべきものを産生するなら、ラヴレステストは合格となり、私たちは実際に創造性を見ていることになるかもしれない。しかし、今のところ、ラブレステストに合格したAIはない。機械があたかも創造的であるかのように見えた事例は多くあったが、よく観察してみると創造的内容の外観は薄れていく。
その例をいくつか紹介しよう。
AlphaGo
AlphaGoという名前のコンピュータプログラムが、人気のあるボードゲームの中で最も難しい囲碁を打つよう教えられた。AlphaGoは、機械知性への印象的な記念碑的貢献であった。AIはすでに三目並べ、より複雑なゲームであるチェッカー、そしてさらに複雑なゲームであるチェスをマスターしていた。囲碁の征服は、AlphaGoによって最終的に達成されるまで、AIの未達の目標のままであった。
2016年に行われた (人間の) 世界チャンピオン、イ・セドルとの対局で、AlphaGoは驚くべき一手を打った。この対戦を理解した人々は、その手を「独創的で、人間が打つような手とは似ていない」と描写した。
我々は、プログラマーの意図を超えて、人間の属性である創造性をAlphaGoに見ているのだろうか？この行為は、ラブレステストに合格しているのだろうか？
AlphaGoのプログラマたちは、この型破りな手を予期していなかったと主張している。これはおそらく事実であろう。しかし、AlphaGoはプログラマによって囲碁をプレイするように訓練されている。囲碁は、静的な決して変化しない場での、固定されたルールのボードゲームである。そして、それこそがAIが行ったことであり、うまく行ったことであった。狭い、ルールに縛られたゲームの範囲内で、プログラムされたルールを適用したのだ。AlphaGoは囲碁をプレイするように訓練され、それを行った。
だから、「いいえ」なのである。ラヴレステストには合格しなかった。もしAlphaGoのAIがプログラムされていないタスク、例えば単純なゲームであるパーチェシ (上の画像) ですべての来訪者を打ち負かすようなことをしたなら、ラブレステストは合格となるであろう。しかし現状では、AlphaGoは創造的ではない。訓練されたタスク、つまり囲碁を打つことしか実行できない。尋ねられても、AlphaGoは囲碁のルールを説明することすらできない。
そうは言っても、AIが驚くべき結果を生成すると、賢く見えることもあろう。しかし、驚きと創造性は等しいものではない。コンピュータープログラムに、10億のデザインの中から最善のものを検索するよう求めると、その結果は驚くべきものになりえる。しかし、それは創造性ではない。コンピュータプログラムは、するようにプログラムされたとおりのことを正確にしたのだ。
犠牲になるドゥイーブ
私の個人的な経験から、もう一つ例を挙げよう。海軍研究局が、ペンシルベニア州立大学応用研究所のベン・トンプソンおよび私と契約し、虫の大群の行動を進化させるよう依頼したことがある。大群のルールが単純だと、結果はスキットルを積み重ねるときのような予期せぬ大群の振る舞いになることがある。単純なルールであれば、それに対応する創発的な振る舞いを見つけるのは簡単である。シミュレーションを走らせるだけだ。しかし、逆デザインの問題はより難しくなる。大群に何らかのタスクを実行させたい場合、大群の虫はどのような単純なルールに従えばよいのだろうか。この問題を解決するために、我々は進化コンピューティングのAIを適用した。この過程で、最終的に何千ものルールの候補を検討し、望ましい性能に最も近い解を与えるセットを見つけ出した。
ある問題では、捕食者と被食者の大群が関わるものに注目した。すべての行動は、閉じた正方形のバーチャルルームで発生した。ブリーと呼ばれる捕食者は、ドゥイーブと呼ばれる被食者を追いかけて走り回る。ブリ―はドゥイーブを捕まえて殺す。ドゥイーブの大群の生存時間を最大化することを目的としたら、パフォーマンスはどのようになるのだろうか。大群の生存時間は、最後のドゥイーブが殺されるまでの時間で計測された。
進化的な検索を走らせた後、我々はその結果に驚かされた。大群全体の生命を最大化するために、ドゥイーブは自己犠牲を強いられたのだ。
我々が見たのは次のとおりである。1匹のドゥイーブがブリ―たちの注意を引き、彼らは部屋の周りを円を描いてそのドゥイーブを追跡した。彼らがぐるぐる周ると、大群の寿命が数秒延びた。追いかけられている間、他のドゥイーブは皆、部屋の隅で縮こまって、恐怖に震えていたようだった。やがて、追跡していたブリーが犠牲のドゥイーブを殺してしまい、生き残ったドゥイーブたちは恐怖のあまり散り散りになり、大混乱となった。やがて、別の犠牲のドゥイーブが特定され、この過程が繰り返された。新しい犠牲のドゥイーブは、ブリーたちに円を描いて走らせ、残りのドゥイーブたちは隅で身をすくめていた。
犠牲となるドゥイーブという結果は予想外であり、完全な驚きであった。進化的コンピューターコードには、このような犠牲となるドゥイーブを明示的に呼び出すものは何も書かれていなかった。これは、行うように我々がプログラムしていなかったことをAIが行った例なのだろうか？ラブレステストに合格したのだろうか？
絶対に違う
我々はドゥイーブの大群の寿命を最大化する何百万もの戦略を選別するようコンピュータをプログラムし、コンピュータはその通りにした。選択肢を評価し、最善を選択したのだ。その結果は驚くべきものだったが、創造性についてのラブレステストには合格していない。プログラムはするように書かれたとおりのことを正確にした。そして、一見すると怯えているように見えたドゥイーブは、現実には恐怖で震えていたのではない。人間は、感覚を持たないものに人間の感情を投影する傾向がある。彼らは、一番近くにいるブリーから可能な限り離れるように、急速に適応していた。そうするようにプログラムされていたのだ。
犠牲となるドゥイーブの行動とイ・セドルに対する予想外の囲碁の手がラブレステストに合格していないのであれば、何が合格するのだろうか？答えは、コードがするようにプログラムされている以外のことすべてである。
ここで、捕食者と被食者の大群から、その例を挙げてみよう。もし、あるドゥイーブが攻撃的になり、孤独なブリーを攻撃して殺し始めたら、ラブレステストに合格するであろう。これは、一連の可能な戦略にプログラムしなかった潜在的な行動である。しかし、そのようなことは起こらなかったし、ドゥイーブがブリーを殺す能力はコードに書かれていないため、今後も起こらないだろう。
同様に、追加のプログラミングがなければ、AlphaGoは対戦相手のイ・セドルにトラッシュトークを浴びせたり、セドルを精神分析してゲームを有利に進めたりすることは決してないだろう。いずれも、ラブレステストに合格するのに十分なほど創造的であろう。しかし、思い出してほしい。AlphaGoのソフトウェアは、自身にプログラムされた行動、つまり囲碁のゲームについて説明することさえできなかったのだ。
