OpenAIのクーデター、「AIの安全性」か「成長優先」か?

SHARE:
写真左から右:2019年のVB Transformで講演する元CTOのGreg Brockman(グレッグ・ブロックマン)氏とチーフ・サイエンティストのIlya Sutskever(イリヤ・スッツケバー)氏

OpenAI理事会がSamuel Altman(サム・アルトマン)最高経営責任者(CEO)を金曜日に解任した正確な理由については多くの詳細が不明のままだが、共同創業者のIlya Sutskever氏が理事会の支持を得て解任プロセスを主導したことを示す、新たな事実が明らかになっている。

理事会の解任に関する声明は「一貫して率直でなかった」Altman氏からのコミュニケーションに起因すると述べているが、理事会の決定の正確な理由やタイミングは謎に包まれたままである。

共同設立者のGreg Brockman氏は、Altman氏の解任を知った後の金曜日に会社を去ったのだが、Altman氏とBrockman氏は会社のビジネス面のリーダーであり、積極的に資金を調達し、OpenAIのビジネスを拡大し、その技術能力を可能な限り早く前進させるために最も尽力したことは間違いない。

一方のSutskever氏は同社のエンジニアリング部門を率いており、OpenAIのジェネレーティブAI技術が今後もたらす影響を深く憂慮し、人工知能(AGI)に到達したときに何が起こるかについて、しばしば厳しい言葉で語ってきた。彼は、テクノロジーが非常に強力になり、ほとんどの人が職を失うだろうとも警告していた。

金曜日の夕方にOpenAIで何が起こったのか、その手がかりを探す野次馬たちの中で、最も一般的な観測はこうだ。ーーAltman氏が推し進める資金調達と事業拡張にパニックになりつつあったOpenAI内の派閥を、Sutskever氏がどれほど率いるようになっていたかということ、そしてAltman氏が一線を越え、もはやOpenAIの非営利団体としての使命(訳註:OpenAIは非営利団体とその営利団体子会社に分かれた複雑な構造を持つ)に従わなくなっていた、ということを推測させるものだった。そして。事業拡大を推し進めた結果、OpenAIのDev Dayの後にユーザが急増し、リサーチチームのサーバ容量が足りなくなったのだ。

もしこれが事実で、Sutskever氏が主導する解任の結果、会社が成長にブレーキをかけ、安全性に再注力することになれば、高い給与と成長への期待で採用された同社の従業員ベースでは、大きな影響が出る可能性がある。実際、The Informationによると、金曜日の夜、OpenAIの3人の上級研究者がこのニュースの後に辞職したという。

いくつかの情報筋は、解任後の即席の全体会議でのコメントを伝えており、そこでは、彼と他の安全重視の役員たちが、事態を遅らせるためにパニックボタンを押したことを示唆するような発言があったという。The Informationは次のように伝えている。

クーデター疑惑についてSutskever氏はこう語ったそうだ。『あなたがこの言葉を選んだ理由は理解できますが、私はこれには同意できません。今回の決定はOpenAIが全人類に利益をもたらすAGIを構築するという非営利団体の使命に対して、理事会がその義務を果たしたということです』。Sutskever氏は、このような裏での解任は世界で最も重要な会社を統治する良い方法なのか?と質問され『公平に見て、理想的ではない要素があることには同意する』と答えたそうだ(The Informationより引用)

Altman氏、Brockman氏、Sutskever氏の他に、OpenAIの役員会にはQuoraの創設者であるAdam D’Angelo(アダム・ダンジェロ)氏、テック起業家のTasha McCauley(ターシャ・マコーリー)氏、ジョージタウン大学のSecurity and Emerging Technologyセンターの戦略ディレクターであるHelen Toner(ヘレン・トナー)氏が含まれていた。

テックジャーナリストのKara Swisher(カーラ・スウィッシャー)氏は、Altman氏とBrockman氏に対抗して、Sutskever氏とToner氏が手を組んだと伝えている。役員会の任務は「広く利益をもたらす(中略)安全なAGI」を追求し、いつAGIに達したかを決定する任務を負っているという、非常に「異例なもの」であることはお伝えした通りだ。この内容は最近注目を集め、論争と不確実性を生み出していた。

金曜日の夜に多くの野次馬たちは、Altman氏とBrockman氏が900億ドルという高額の評価額でさらに資金を調達しようとするなど、一連の出来事を時系列にまとめている。そのすべてが、AIの自動化をさらに推し進めるOpenAIのブレークスルーがもたらす可能性のある危険について懸念する、Sutskever氏や他の人々と、理事会レベルで議論が勃発した可能性が非常に高いことを示している。

実際、Altman氏は同社がChatGPTのモデルの次の段階であるGPT-5に取り組んでいることを確認していた。 先週サンフランシスコで開催されたAPECカンファレンスで、Altman氏は最近、同社の技術がまた一歩前進した証拠を見たことに言及しているのだ。

OpenAIの歴史の中で4回、最近ではここ数週間のことですが、私たちが無知のベールを開き、発見というフロンティアを前進させる場に立ち会うことができました。その場に立ち会えることは、プロとして生涯最高の栄誉です(このビデオの3分15秒を参照

データサイエンティストのJeremy Howard氏は、OpenAIのDevDayが安全性を懸念する研究者たちにとっていかに恥ずべきものであったかについて、Xに長いスレッドを投稿している。

また、DevDayで新しいGPT Builderがロールアウトされた後、X/Twitterの何人かが、そこからプライベートと思われる情報や安全でないと思われる情報を取り出すことができると指摘したことも注目に値する。

その一方で、元グーグルCEOのEric Schmidt(エリック・シュミット)氏をはじめ、多くのテックリーダーがAltman氏を擁護する姿勢を示しており、Altman氏を解雇した理由が何であれ、OpenAIの理事会がその評判を貶めることを危惧する声もある。

研究者のNirit Weiss-Blatt氏は、5月に彼が最近行ったコメントについての投稿で、Sutskever氏の世界観について良い洞察を提供した。

「AIが文字通りすべての仕事を自動化すると信じるのであれば、そのような技術を構築する企業が(中略)絶対的な利益最大化者でないことは理にかなっている。もしあなたが、AIが最低でもすべての人を失業させると信じているのであれば、それはとんでもないことだ」。

(訳註:本記事は2023年11月18日 AM 8:00に現地時間でVentureBeatに公開されたVB創業者でテックジャーナリスト、マット・マーシャル氏の記事です。情報がすでに古くなっている箇所もあることを留意してください)

【via VentureBeat】 @VentureBeat

【原文】

Members

BRIDGEの会員制度「Members」に登録いただくと無料で会員限定の記事が毎月10本までお読みいただけます。また、有料の「Members Plus」の方は記事が全て読めるほか、BRIDGE HOT 100などのコンテンツや会員限定のオンラインイベントにご参加いただけます。
無料で登録する