This is the Japanese translation of this site.
ロバート・J・マークス2世
2022/6/28 9:46
編集部注: Discovery Instituteのブラッドリー自然・人工知能センターのディレクターであり、コンピュータエンジニアのロバート・J・マークスによる新刊『Non-Computable You: What You Do that Artificial Intelligence Never Will』の第2章からの抜粋をお届けできることを嬉しく思います。
AIは創造的だと主張する人がいる。しかし、「創造性」というのは曖昧な用語である。創造性について実りある話をするためには、誰もが同じことについて話し、誰も自分の目的に合わせて意味を曲げることがないように、用語を定義しなければならない。創造性とは何なのかを探ってみると、適切に定義された場合、AIは鉛筆と同じように創造的ではないことが明らかになるであろう。
創造性＝新しいものを創り出すこと
詩人バイロン卿ことジョージ・ゴードンの娘エイダ・ラブレス夫人 (1815年-1852年) は、最初のコンピュータプログラマであり、計画されたが製作されなかった機械のためのアルゴリズムを書いた。彼女はまた、コンピュータが創造的になることはない、つまり、何か新しいものを創造することはできない、と最初に指摘した人物である可能性が高い。彼女は1842年に、コンピュータは「何か独創するようには作られていない。それは、私たちがどのような実行を命令するか知っていることに限り、何でも実行することができる」と書いた。
アラン・チューリングはこれに同意しなかった。チューリングはよくコンピュータサイエンスの父と呼ばれ、1930年代に現代のコンピュータのアイディアを確立した。チューリングは、人間は「太陽の下で新しいものなど何も」しないので、人間が創造しているとは確信できないが、彼らはまさしく我々を驚かせている、と論じた。同様に、彼は、同様に「機械は、きわめて頻繁に私を驚かせている」と言った。つまり、恐らく彼は、関連するのは驚きの要素であって、何か新しいものを創り出す能力ではないと論じていた。
機械が私たちを驚かせることができるのは、驚かせるように人間がプログラムした場合、あるいはプログラマがミスをしたために予想外の結果を経験した場合である。ところが、ある問題に対して数えきれないほどの解を探索するコンピュータの検索の実装が成功した結果として、驚きが生じることがよくある。コンピュータが選んだ解は、予想外のものになり得る。だが、さまざまな解を検索するコンピュータのコードは、創造的ではない。創造性の源泉は、探索する解の集合を選んだコンピュータプログラマにあるのだ。コンピュータによる検索の例には、囲碁の最善手の探索や、大群のシミュレーションを挙げることができる。どちらの結果も驚くべきものであり、予想外ではあるが、コンピュータのコードからもたらされる創造性というものはない。
チューリングテストの欠陥
無神論者であるアラン・チューリングは、人間は機械であり、コンピュータは創造的になれることを示したかったのだ。チューリングは知能を問題解決と同一視し、意識や感情の問題を考慮せず、人々を「人間コンピュータ」と呼んだ。チューリング版の「模倣ゲーム」は、コンピュータが会話する人間を複製できることを示すために提唱されたものであった。ベネディクト・カンバーバッチがチューリングを演じた伝記映画のタイトルが「イミテーション・ゲーム」だったのは、このためである。
チューリングによると、コンピュータはどのようにして人間の模倣ができるのだろうか？チューリングテストと呼ばれるようになった模倣ゲームは単純に、テキストを使った会話のやりとり (つまり、参加者がお互いに隠れているやりとり) において、十分に高度なコンピュータと人間を区別できるかどうかを問うものである。質問者がコンピュータから明瞭な人間らしい答えを引き出し、そのコンピュータが実は別室から答えを入力している人間であると信じたなら、テストに合格したことになる。(ついでながら、チューリングテストの逆は簡単である。単純に12の立方根を有効数字10桁まで計算するように求めるのだ。もし、その答えがほぼ瞬時であれば、あなたはコンピュータと会話していることになる。)
今日のチャットボットはチューリングテストに合格していると主張する者たちがいる。「ユージン・グーストマン」として知られるコンピュータプログラムが合格したと言われたのが最も有名だ。ある投稿された字幕はこれを主張して、「『ユージン・グーストマン』が尋問者の33%を騙して人間だと思わせたことには、人工知能のマイルストーンとみなされるものがある」としている。
しかし、テストを行う者は、しばしば成果を微調整するためにごまかしをする。グーストマンのプログラマたちはそれを行った。グーストマンはウクライナ人とされており、これは英語が母国語でないことを意味するので、彼の貧弱な文法の言い訳ができた。彼は10代の若者とされたので、理解の深さが足りないのは、彼の知性が未熟だからということにできた。同様に、無思慮であったり質問をはぐらかしたりする彼の傾向も、10代の典型的な振る舞いと考えられた。要するに、グーストマンのソフトウェアのキャラクターは、チューリングテストに合格するためのゲームと化していた。
ここで、グーストマンと質問者のやりとりの例をいくつか挙げてみよう。グーストマンはまず、カーペンターズが流行らせた歌「遥かなる影」の歌詞の最初の行で提案された質問をされる。
質問者: なぜ鳥は突然現れるのでしょう？
グースマン: 単に2+2が5だからです！ ところで、あなたの職業は何ですか？というか、仕事について教えてください。
ここで、チャットボットでよく使われるチートを見ることができる。答えがわからない場合、チャットボットは関係のない質問を返して、会話の方向性を脱線させるのだ。
こちらは別のユージン・グーストマンとのやりとりである。
質問者: 大丈夫です、私は病人には嫌気がさしています。今日の胃の調子はどうですか？もしかして、お腹を壊していますか？
グーストマン: あなたは全く笑えていないと思います。きっと葬儀屋で働いているのでしょう。
ご覧のように、ここでのグーストマンの答えは、とらえどころがなく反応になっていない。
プログラマによるゲーム
セルマー・ブリングショルドは、チューリングテストがプログラマによるゲームと化していることを正しく指摘している。ここでいう「ゲームと化した」とは、とらえどころのないチートであることを意味する良い言葉である。ブリングショルドが書いているように、「チューリングの夢への進歩はなされているとはいえ、その進行は巧妙だが浅はかな策略の強さにおいてのみである」。
例のシステムでゲームをする場合、チャットボットは、質問に別の質問で答えたり、回避的な回答をしたり、無知を認めたりして、検出を避けることができる。創造性や理解の深さに関して、一般的に知的な浅さを見せる。
グーストマンは、質問に対して「ところで、あなたの職業は何ですか？」といった質問で答えていた。話題を変えようとして、「きっと葬儀屋で働いているのでしょう」などの会話で鞭打つかのような返答を試みることもした。これらは、ブリングショルドが批判した「巧妙だが浅はかな策略」の例である。
では、チューリングテストは何を証明するのだろうか？巧妙なプログラマは、騙されやすい人や不慣れな人を騙して、人間と対話していると信じさせることができるというだけである。何かを人間と勘違いしても、それは人間にはならない。思考を浅く模倣するプログラミングは、思考と同じものではない。(グーストマンが言ってのけた話題を変える質問のような) とりとめのないランダム性は、創造性を示すものではない。
「『機械は考えることができるか』という問題を考察してみよう」とチューリングは言った。皮肉なことに、チューリングは機械が会話において創造的になれることを示すという試みで失敗しただけでなく、人間が計算不可能であることを示すコンピュータ科学を開発することもしたのだ。
