機械倫理学者 Thomas Krendl Gilbert 氏との対談で、彼が今の AI を科学ではなく「錬金術」の一形態と呼んだことは、今週の AI Beat で多くの人を驚かせた。

これを作っている人たちは、自分たちがやっていることは魔法のようだと考えています。そしてそれは、AGI（汎用型 AI）や超能力のような、ここ数ヶ月の間に公の言説に浸透した多くのメタファーやアイデアに根ざしています。（Gilbert 氏）

ソーシャルメディア上では、この評価に対して賛否が分かれた。しかし、彼がVentureBeat の記事に言及しているかどうかは不明だが、Meta のチーフ AI サイエンティスト Yann LeCun 氏は、ソーシャルメディアに「理論に魔法のような性質があると考える一部の人々が、善意の工学や経験科学を錬金術として簡単に否定するのはおかしい」と投稿 し、単純に同意しなかった。彼は、YouTube に投稿された「ディープラーニングの認識論（The Epistemology of Deep Learning）」という講演にリンクし、「なぜディープラーニングは錬金術ではなく、経験科学に属するのか」について語った。

VentureBeat は LeCun 氏にコメントを求めたが、まだ返事はない。

しかし、ChatGPT と GPT-4 を開発した OpenAI の共同設立者兼チーフサイエンティストであり、ディープラーニング革命を急発進させた2012年の AlexNet 論文の共著者でもある Ilya Sutskever 氏もディープラーニングを錬金術と呼んでいることがわかっている。

我々が作ったのはモノではない。モノを作り出すプロセスである。

2023年5月にパロアルトで行われた講演の原稿を、通信研究者の Nirit Weiss-Blatt 氏が VentureBeat に提供し、その原稿からの引用を最近オンラインに掲載した。

イベントの司会者から、ChatGPT が予想以上にうまくいったことに驚いたことはないかと訊かれたとき、彼はこう答えた。

ええ、もちろんです。なぜなら、私たちはそのモノを作ったのではなく、私たちが造るのはそのモノを作り出すプロセスだからです。これは非常に重要な違いです。私たちが作り出したのは精製装置であり、錬金術であり、データを取り出し、その秘密をニューラルネットワークに抽出するものであり、賢者の石であり、錬金術のプロセスかもしれません。しかし、その結果はとても神秘的で、何年も研究することができます。

VentureBeat は OpenAI の広報担当者に、Ilya 氏と同社が5月のコメントを支持しているかどうか、あるいは何か追加することがあるかどうか確認するために連絡を取った。

錬金術論への反応

VentureBeat は Gilbert 氏に連絡を取り、AI を錬金術とする彼のコメントに対する強い反応に答えた。彼は、この反応はまったく驚くことではないと述べた。

LeCun 氏のような古い世代の研究者は、機械学習の特定の手法（彼らはこれをディープラーニングと呼び直した）を科学的に正当なものとみなすために、非常に厳しい戦いを強いられてきた。

この古い世代が理解に苦しんでいるのは、彼らの足元で地盤が変動していることです。今日の知的エネルギーや資金提供の多くは、科学に動機づけられているわけではなく、それどころか超知的な機械によって促進される意識の新時代が始まると心から信じている人々からもたらされています。そのような若い世代は、OpenAI や Anthropic のような LLM に焦点を当てた企業で働く人々であり、その他のスタートアップの数も増えています。（Gilbert 氏）

Gilbert 氏は、ディープラーニングがより多くのレイヤー、より大きなネットワーク、より多くのデータといった「深さ」を受け入れる許可をエンジニアに与えたと指摘した。

問題なのは、この「暴走する探求」が意味を持つのは、そのきっかけとなった重要な比喩、つまり人間の脳でニューロンが果たす特殊な役割に根ざしたときだけです。不快な現実は、ディープラーニングが、知性とは何かという明確な理解よりも、この比喩に突き動かされていたということであり、今まさに我々はその結果に直面しています。（Gilbert 氏）

Gilbert 氏は、LeCun 氏がリンクした講演の中で、ディープラーニングを望遠鏡や蒸気機関、飛行機のような経験科学の一例として取り上げていることを指摘した。

しかし、この比較の問題点は、歴史的に、この種の工学的科学は自然科学の上に構築されたものであり、その基礎となるメカニズムは十分に理解されていたということです。ダムを設計して、小川や河川をせき止めたり、あるいは海流に影響を与えたりすることができます。ダムの大きさ（あるいは望遠鏡の大きさなど）は問題ではないのです。（Gilbert 氏）

現代の LLM は、このようなものではないと彼は主張した。

それらは、我々が科学的に調査する方法を知っているよりも大きいです。ディープラーニング革命を支えたメタファーから経験的な結果が切り離されるほど、計算アーキテクチャーは強化されています。認知科学との類似性があるとしても、その特性はよく理解されていません。私の感覚では、LeCun 氏のような年配の研究者はこのような類似性を気にしていますが、若い世代の多くは気にしていません。

LLM は今や公然と「基礎的なもの」として語られていますが、その基礎が何なのか、あるいは存在するのかどうかさえ、誰も明確に理解していません。簡単に言えば、科学を主張する人々は、LLM がどのように設計され、展開され、語られるかをもはやコントロールできないのです。今は錬金術師たちが主導権を握っているのです。（Gilbert 氏）

インテリジェンスとは何なのか

Gilbert 氏は最後に、全体的な議論は、インテリジェンスがどうあるべきかをより深く考えるきっかけになるはずだと述べた。

認知科学が可能とすること、あるいは不可能とすることに私たちの想像力を制限するのではなく、経済や社会や自己をどのように再構築できるのか、これらは人間的な問題であり、科学的な問題ではありません。

LLM はすでに科学的な仮定に挑戦し始めているし、これからもそうしていくだろう。私たちは皆、その挑戦とその根底にある謎を、開かれた文化的、政治的、精神的な問題の分野として受け入れるべきであり、謎を厳密に科学的なものとして枠にはめ続けるべきではありません。

【via VentureBeat】 @VentureBeat

【原文】