資金難が続く中、米上院民主党トップがAI安全研究所に1,000万米ドルの拠出を発表 - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報

アメリカ上院院内総務の Chuck Schumer（チャック・シューマー、民主党・ニューヨーク州選出）氏は7日、アメリカ国立標準技術研究所（NIST）が、AI 大統領令に基づき「商務省に割り当てられた責務を支援する」ために2023年11月に設立されたアメリカ人工知能安全研究所（USAISI）の設立に最大1,000万米ドルを受け取ると発表した。

これまで、この研究所がどのように機能し、どこから資金を調達するのかについての詳細はほとんど明らかにされていない。特に、NIST 自体は、約3,400人のスタッフと16億米ドル強の年間予算を持っていると報道されているが、資金不足であることが知られているからだ。Washington Post は6日、NIST の老朽化したオフィス（雨漏りする屋根、黒カビ、頻繁な停電、脆弱なインターネットなど）を暴露する記事を掲載したばかりである。

上院院内総務「AI への資金提供は強力な頭金」

アメリカ商務省に属する NIST は、ホワイトハウスの AI 大統領の中で、「AI 技術に関する能力を評価・監査するイニシアチブを取り、安全・安心・信頼できるシステムの展開を可能にするための AI レッドチームテスト（疑似的な攻撃演習により、セキュリティ対策が有効かどうかを検証する）の実施を含む、さまざま様々なガイドラインを策定する」という大きな責任を与えられている。

上院院内総務は現在、最近発表された商業・司法・科学会計年度2024年度予算案に、NIST における USAISI 設立のための最大1,000万米ドルが含まれていることを発表した。プレスリリースでは、これは「初の試み」であり、上院院内総務は、AI に関する大統領令を実施するための「強力な頭金」であると述べている。

少数党の院内総務として、私は、AI がもたらす潜在的なリスクにも対処しつつ、アメリカがイノベーションをリードし続ける必要性とのバランスを取るために、政府がスマートなガードレールを導入する必要があると訴え続けてきました。私は、AI の開発がイノベーションと安全性、説明責任、透明性の両方を優先し、同時にアメリカの産業を支援し、進歩を可能にすることを確認するために、この資金調達のために戦いました。

院内総務は、USAISI はの活動目的を次のように説明している。

AI モデルの安全性、セキュリティ、テストのための標準の開発を促進し、AI が生成したコンテンツを認証するための標準を開発し、研究者が新たな AI のリスクを評価するためのテスト環境を提供します。この研究所は、AI システムの安全性とアカウンタビリティを向上させるために、研究開発やテスト・評価などに重点を置く200の企業や組織からなるコンソーシアムと連携して活動しています。

NIST の資金提供と透明性の欠如に対する批判

VentureBeat は2月、USAISI をめぐる NIST の透明性の欠如に関する批判について報じた。12月中旬、両党の下院科学委員会の議員らが NIST に書簡を送り、Politico は「NIST は透明性が欠如しており、新しいアメリカ AI 安全研究所に関連する研究助成金の競争プロセスを発表していないとして非難した」と報じた。

議員たちは、NIST と RAND Corporation（テック億万長者や AI 業界、物議を醸す「効果的利他主義）」運動と結びついた影響力のあるシンクタンク）との間で計画されているAI研究提携について特に懸念していると述べた（VentureBeat は、RAND や LLM 大手 Anthropic 内を含む、AI の「安全」とセキュリティにおける効果的利他主義（EA）の「広がる網」についても報じている）。

議員らは書簡の中で、「残念ながら、AI安全性研究の現状は、NIST がこの問題に関して指導的な役割を果たす上での課題を生み出している。また、AI の安全性の分野では、範囲、分類、定義について大きな意見の相違がある。

当時、VentureBeat は、かつて Accenture で AI の取り組みを指揮し、2021年から2011年まで Twitter（現X）の META（機械学習の倫理、透明性、説明責任=Machine Learning Ethics、Transparency、Accountability）チームの責任者も務めた Rumman Chowdhury 氏にも話を聞いた。彼女は、USAISI にとって資金調達が問題だと述べた。