8日の Wall Street Journal は、OpenAI の CEO サム・アルトマン(Sam Altman)氏が、世界のチップ能力を向上させる「荒唐無稽な」技術プロジェクトに最大7兆米ドルの資金調達を望んでいると報じた。
これは単に Altman 氏の夢のようなムーンショットかもしれないし、Elon Musk(イーロン・マスク)氏のような誇大広告かもしれないが、HuggingFace の気候責任者で研究員の Sasha Luccioni 氏によれば、このような大規模な取り組みが環境に与える影響に疑いの余地はないという。
うまくいったとしても、必要とされる天然資源の量は気の遠くなるようなものです。エネルギーが再生可能だとしても(再生可能である保証はないが)、必要とされる水とレアアースの量は天文学的です。(Luccioni 氏)
比較のために引用すると、Fortune は2023年9月、AI ツールが Microsoft の水消費量を34%急増させたと報じた。Meta の Llama2 モデルは Llama1 の2倍の水を消費したと報じられ、2023年の調査では、OpenAI の GPT-3 トレーニングが70万リットルの水を消費したことがわかった。
環境への影響だけでなく、ガリウムやゲルマニウムといった希土類鉱物の不足は、中国との世界的なチップ戦争の火種にさえなっている。
Luccioni 氏は、Altman 氏が AI を開発するために、より効率的な AI 手法に焦点を当てていないと批判した。
彼は総当たり的なアプローチを取っています。人々は彼のそんなやり方をビジョナリーだと言いますが……(Luccioni 氏)
GPU へのアクセスがシリコンバレーの AI 争奪戦の鍵に
しかし実際のところ、現在の GPU 不足に取り組み、半導体の状況を再構築したいという Altman 氏の願望は、珍しいものではない。VentureBeat は昨年夏、大規模言語モデル(LLM)トレーニングのために、入手困難で超高価な Nvidia の高性能コンピューティング「H100 GPU」へのアクセスが、シリコンバレーの「最重要ゴシップ」になりつつあることを報じた。
そしてつい先週、Meta は最新の決算説明会で AI 戦略の深堀りを行い、CEO マーク・ザッカーバーグ(Mark Zuckerberg)氏は、AIの「完全な一般知能」を構築するためには、まず「ワールドクラスのコンピュートインフラ」が重要な要件であると述べた。Zuckerberg 氏はさらに、最近 Instagram の Reel で公開した内容を次のように繰り返した。
今年末までに Meta は約35万台の H100を保有する予定で、他の GPU を含めると合計で約60万台の H100相当のコンピュートとなる。
同社は今後もこの分野に積極的に投資していく予定だと Zuckerberg 氏は説明した。
最先端のクラスタを構築するために、私たちは斬新なデータセンターを設計し、私たちのワークロードに特化した独自のカスタムシリコンを設計しています。
AI の環境フットプリントに関する透明性への懸念
Luccioni 氏は、Nvidia の製品のカーボンフットプリントに関する透明性について批判的だ(同社が設計しているが、製造は TSMC が行っている)。
Nvidia は、製造の環境フットプリントに関する情報をまだ公表していません。電子廃棄物全体も大きな問題です。
Nvidia reports 2,7 MILLION tonnes of Scope 3 (supply chain) emissions in 2022. These are mostly due to manufacturing their GPUs, which are selling like hotcakes.
Can we have some transparency regarding the CO2 emissions linked to GPU manufacturing, @nvidia? pic.twitter.com/j2hlEonmIY— Sasha Luccioni, PhD 🦋🌎✨🤗 (@SashaMTL) November 21, 2022
Nvidia は2023年企業責任報告書の中で次のように述べている。
排出は、当社のサプライチェーン内の製造を含む、製品ライフサイクルのあらゆる段階で発生します。
2014年以来、当社は主要なシリコン製造およびシステム受託製造サプライヤーに対し、RBA 環境調査(人道的で健全な経営が正しく行われているかどうかを監査する仕組み)または CDP(Carbon Disclosure Project=世界中の投資家が連携し、企業に対して気候変動への対策や、温室効果ガス排出量に関する公表を求めるプロジェクト)を通じて、年間のエネルギーおよび水の使用量、廃棄物、温室効果ガス(GHG)排出量、削減目標および目標を報告することを求めてきました。
また、サプライヤーには第三者による温室効果ガス排出量の検証を期待しています。私たちはこのサプライヤーのデータを使って、製品製造の影響をよりよく理解し、炭素排出量を顧客に割り当てています。
OpenAI の情報透明性向上は望み薄
Luccioni 氏は、AI の環境への影響に関しては、全体的に透明性が低いと主張する。
Google が2022年に発表した PaLM 1の論文と、その後(2023年5月に発表された)Palm 2の論文を見ると、提供された情報量は激減しています。(Luccioni 氏)
元の論文では、Google はエネルギー使用量の見積もりができるように十分な情報を共有していたと彼女は説明した。
今では(企業は)トレーニングにかかった時間や使用したチップの数さえ言わなくなりました。(Luccioni 氏)
しかし、全体的に見て、Luccioni 氏はそれほど心配していないという。
私は、これは実際には実現しない、単なるムーンショットプロジェクトだと思います。しかし、注目を集め、誇大広告を生み出す突飛なプロジェクトという点では、(Altman 氏は)Musk 氏と肩を並べることになるでしょう。(Luccioni 氏)
【via VentureBeat】 @VentureBeat
Members
BRIDGEの会員制度「Members」に登録いただくと無料で会員限定の記事が毎月10本までお読みいただけます。また、有料の「Members Plus」の方は記事が全て読めるほか、BRIDGE HOT 100などのコンテンツや会員限定のオンラインイベントにご参加いただけます。無料で登録する