12日夕方、サンフランシスコにある OpenAI 本社の前に数十人のデモ隊が集まり、社員が退社する中、同社の AI 開発に反対する集会が開かれた。

デモを主催したのは、Pause AI と No AGI という2つのグループで、彼らは OpenAI のエンジニアたちに対し、チャットボット「ChatGPT」のような高度な AI システムの開発をやめるよう公然と訴えた。

この団体のメッセージは最初から明確だった。汎用 AI（AGI）として知られる、機械が人間の知能を凌駕する未来につながる可能性のある AI の開発を中止し、それ以上の軍事的提携を控えることだ。

このイベントは、先月 OpenAI の利用ポリシーから AI の軍事利用を禁じる文言が削除されたことを受けて開催された。利用ポリシーが変更された数日後、OpenAI が国防総省をクライアントとしたことが報じられた。

イベントの説明にはこうある。

2月12日、私たちは OpenAI に対し、国防総省との関係を終わらせ、いかなる軍のクライアントも引き受けないよう要求します。彼らの倫理と安全の境界線が便宜上修正されるのであれば、彼らは信頼できません。

VentureBeat は、デモで何を達成したいのか、またそれぞれの組織から見て成功とはどのようなものなのか、デモの主催者である両者に話を聞いた。

No AGI の代表である Sam Kirchener 氏は VentureBeat に次のように語った。

No AGI の目標は、そもそも汎用 AI を作るべきでないという認識を広めることです。その代わりに、人間の思考をインテリジェンスの最前線にとどめる全脳エミュレーションのようなものに目を向けるべきです。

Pause AI（U.S.）の主幹事 Holly Elmore 氏は、VentureBeat の取材に対し、次のように語った。

汎用 AI のフロンティア開発を、安全が確認されるまで世界規模で無期限に一時停止することを望んでいます。もし彼らが軍との関係を終わらせたら、とても嬉しい。それは本当に重要な境界線のように思えます。（Elmore 氏）

高まる AI 開発への不信感

今回の抗議は、AI の倫理的意味合いに関する世論が高まる重要な局面で行われた。OpenAI が利用ポリシーを修正し、国防総省と協力することを決めたことで、AI の軍事化とその潜在的な影響に関する議論が巻き起こっている。

抗議者たちの懸念は、主に汎用 AI という概念に根ざしている。汎用 AI とは、人間ができるあらゆる知的作業を、理解不能なスピードとスケールで実行しうる知能のことだ。その懸念は、単に雇用の喪失や戦争の自律性についてのみではなく、社会におけるパワーダイナミクスや意思決定の根本的な変化についてである。

汎用 AI を構築した場合、汎用 AI 後の世界では、心理的脅威と呼ばれる、汎用 AI がすべての人のためにすべてを行うことから、多くの意味が失われる危険性があります。人々は仕事を必要としなくなります。現在の社会では、人々は自分の仕事から多くの意味を得ています。（Kirchener 氏）

「このような企業にとって、セルフガバナンスだけでは不十分で、外部からの規制が必要です」と Elmore 氏は付け加え、OpenAI がいかに頻繁に約束を撤回してきたかを強調した。

6月、Sam Altman（サム・アルトマン）氏は取締役会が彼を解雇できると自慢していましたが、11月には解雇できなくなりました。もし OpenAI のやりたいことを制限しないのであれば、これらのポリシーに何の意味があるのでしょう。

Pause AI と No AGI は、汎用 AI を阻止するという共通の目標を掲げているが、その方法は異なっている。Pause AI は、汎用 AI が安全に開発されるのであれば、そのアイデアに前向きである。一方、No AGI は、汎用 AI の誕生に断固反対し、潜在的な心理的脅威と人間生活の意味の喪失を強調している。

どちらのグループも、これが最後の抗議になることはないだろうと言っている。

AI のリスクを懸念する人々は、サイトやソーシャルメディアを通じて参加することができる。しかし、今のところ、シリコンバレーは未知の AI の未来に向かって前進している。

【via VentureBeat】 @VentureBeat

【原文】