バイデン政権は7日、大統領の AI 大統領令（EO）の「推進力」であったホワイトハウス首席補佐官 Elizabeth Kelly 氏を、国立標準技術研究所（NIST）に新設される AI 安全研究所（USAISI）の所長に指名した。また、Elham Tabassi 氏が CTO に任命された。

アメリカ商務省に属する NIST は、2023年1月に待望の AI リスク管理フレームワークを発表し、ホワイトハウスの AI EO では、「人工知能（AI）技術に関する能力を評価・監査するイニシアチブを取り、安全・安心・信頼できるシステムの展開を可能にするための AI レッドチームテストの実施を含む様々なガイドラインを策定する」という大きな責任を与えられていた。

しかし、AI 大統領令に基づき「商務省に割り当てられた責任を支援する」ために2023年11月に設立されて以来、今回の指導者人事が USAISI に関する最初の大きな発表となったようだ。それ以来、USAISI がどのように機能するのか、またその資金はどこから調達されるのかについての詳細はほとんど明らかにされていない。特に NIST 自体は、約3,400人の職員と16億ドル強の年間予算を持っていると言われているが、資金不足であることが知られている。

AI の安全性に関する NIST の資金源は不明確

超党派の上院議員グループは1月、2024年度の資金調達法案の一部として、NIST 内にアメリカ人工知能安全研究所（USAISI）を設立するための1,000万米ドルの資金提供を上院歳出委員会に要請した。しかし、その資金要求の状況は明らかではない。

さらに、12月中旬には両党の下院科学委員会議員が NIST に書簡を送り、Politico は「NIST は透明性に欠け、新設される AI 安全研究所に関連する研究助成金の競争プロセスを発表していないと非難した」と報じた。

議員たちは、NIST と RAND Corporation（テック億万長者や AI 業界、物議を醸す「効果的利他主義」運動と結びついた影響力のあるシンクタンク）との間で計画されている AI 研究パートナーシップについて特に懸念していると述べた（VentureBeat は、RAND や LLM モデル企業の大手 Anthropic 内を含む、AI の「安全」とセキュリティにおける効果的利他主義（EA）の「広がる網」についても報じている）。

残念ながら、AI 安全性研究分野の現状は、NIST がこの問題に関して指導的役割を果たす上での課題を生み出している。また、AI の安全性の分野では、範囲、分類、定義について大きな意見の相違がある。

NIST は超党派の機関であり「問題を直視しない集団」と専門家

USAISI のリーダー人事について VentureBeat のインタビューに応じた Rumman Chowdhury 氏は、かつて Accenture で AI の取り組みを率い、2021年から2011年まで Twitter（現 X）の META （Machine Learning Ethics, Transparency and Accountability=機械学習の倫理、透明性、説明責任）チームの責任者も務めた人物だが、NIST と USAISI に関する発表に人々は「食指を動かしている」としながらも、必要なすべての審査を考えるとこのペースは尋常ではないと述べた。

さらに、現在非営利団体 Humane Intelligence を運営し、昨夏の DEF CON で初めて公開された生成 AI のレッドチーム・イベントの運営に携わった Chowdhury 氏は、USAISI が NIST の一部であることを「気に入っている」と語った。NIST は、AI の安全性とセキュリティの基準を策定することに関して、「the adults in the room（問題を直視しない集団） のようなもの」と彼女は評した。

NIST は超党派の組織です。NIST は任命制ではないので、権力者の気まぐれで動くことはありません。彼らは連邦政府の職員であり、これがワシントン DC に来たばかりの人たち、特にテック業界の人たちが気づかない違いのひとつです。なぜなら、任命はもう少し政治的なものだからです。

AI 安全研究所は「資金提供のない義務」だった

それでも Chowdhury 氏は、USAISI にとって資金が問題であることを指摘した。

率直に言って、あまり議論されていないことのひとつは、これは大統領令による資金提供のない義務だということです。現在の米国の二極化を考えれば、何らかの法案を通すことが本当に難しいという政治的な理由は理解できます。問題は、そのための資金がないことです。イギリスは1億ドル、年間1,000万ドルもの資金を手にしています。

上院からの資金拠出要請について尋ねられると、彼女はそのことは知っていると答えた。

Chowdhury 氏はまた、USAISI と同時に発表された、AI ガバナンス、AI 安全性、レッドチーム、責任ある AI、データ文書化などの分野で技術的専門知識を提供する組織を募る AI 安全性研究所コンソーシアムについても指摘した。

誰でも参加できるコンソーシアム協定によると、コンソーシアムに参加するための会費は年間1,000ドル。Chowdhury 氏は、研究助成金に関する NIST／USAISI の計画については何も知らないと述べた。

2023年4月、Anthropic が NIST への資金提供を要請

2023年4月、Anthropic 社は、NIST の AI 測定と標準化の取り組みを支援するため、NIST に1,500万ドルの資金提供を求めたと VentureBeat は報じた。

同社は、2024年の米国商務省の資金調達に関する予算公聴会の2日後に、重要な技術開発における米国のリーダーシップを維持することへの超党派の支持があった行動要請メモを発表した。

Anthropic のメモによると、NIST への資金提供の呼びかけは、政策立案者が利用可能な、よりシンプルで「shovel-ready」な（すぐに取り掛かれる）アイデアだという。

NIST 内の AI 安全研究所は「ポジティブなシグナル」と呼ばれる

Chowdhury 氏は、USAISI と NIST 内でのその役割の見通しについて、楽観的な見方を崩していないという。

私は Elizabeth 氏を個人的に知っているわけではありませんが、Elham 氏を知っていますし、彼女は私が知っている中で最も冷静な人物の一人です。

政治学の帽子をかぶり直すと、組織が大きな組織の中でどこに位置するかは、特に政治的には非常に重要です。USAISI が NIST 内に設置されたことで、私の意見としては、彼らが政治的な前進ではなく、科学的な前進を望んでいるというかなり肯定的なシグナルです。（Chowdhury 氏）

【via VentureBeat】 @VentureBeat

【原文】