9月13日に開催された上院院内総務の Chuck Schumer 氏が主導する上院初の「AI Insight Forum」について私が「ChatGPT」に意見を求めたとき、ChatGPT は私が何を聞きたいのか理解できていなかった。

混乱させて申し訳ありませんが、私はリアルタイムの情報にアクセスできませんし、2021年9月に最後の知識更新を起こった後の出来事について、意見を提供する能力はありません。

Schumer 氏が「今年最も重要な会話の1つ」と呼んだものについて、ChatGPT はこのように答えた。

ChatGPT はさらに続けた。

今週開催される特定の AI 規制フォーラムやその他の最近の出来事については知りません。

しかし、ChatGPT は AI の規制に関する絶え間ない話題を知らないかもしれないが、Schumer 氏が言うビジネス、公民権、防衛、研究、労働、芸術のトップが一堂に会し、議会が AI にどう取り組むかについて切望される会話をすることに対しては、AI の世界では誰もが意見を持っているようだ。

閣僚級役職または「AI 省」の設置が必要との声

例えば、AI 研究機関 DeepMind を共同設立し、現在は Inflection AI の CEO を務める Mustafa Suleyman 氏は、新著「The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma（仮訳：来るべき波： テクノロジー、権力、21世紀最大のジレンマ」）」の中で、AI のような新興テクノロジーのために内閣レベルの役職を設けるべきだと述べている。

21世紀において、経済、教育、安全保障、国防などを担当する閣僚の地位が、テクノロジー分野においても同様に権限を与えられ、民主的に説明責任を果たすものでなければ意味がない。

彼はそう書いている。彼はまた、アメリカは先進的なチップにおける優位性を利用して、グローバルスタンダードを実施すべきだとし、気候変動に関する政府間パネルに倣ったガバナンス体制の構築を要求している。

一方、Axios の新しい調査によると、一流大学の AI 専門家たちは、人工知能を管理するために、連邦政府やホワイトハウス、民間部門に任せるのではなく、連邦政府による「AI 省」や世界的な規制機関の設立を支持している。議会では議員の Ted Lieu 氏が AI を研究し、規制方法について議員に助言する「ブルーリボン委員会（blue-ribbon commission）」の設立を望んでいる。

私の考えでは、議会は AI やありとあらゆるアプリケーションを規制できるほど広くはありません。だからこそ、今後どのように AI を規制していくのか、そのモデルを示す委員会が必要なのです。（Lieu 氏）

システミック・リスクに焦点を当てる

ブルッキングス研究所のリサーチフェロー Alex Engler 氏は先週、連邦政府により多くの権限を与えるという AI 規制の新しいアイデアを提示した。彼は、アメリカで EU AI 法を成立させる、あるいはアルゴリズムのための FDA を創設する、といった他のアイデアよりも目新しさはないとしながらも、彼の新しい規制ツール「クリティカル・アルゴリズム・システムの分類（Critical Algorithmic System Classification）」は、ジェネレーティブ AI のあまり実証されていない危害やリスクではなく、差別やデータプライバシーなど、何十年も前から存在する深刻でシステミックな AI のリスクに改めて焦点を当てるものだと主張している。

Engler 氏は VentureBeat のインタビューに対して次のように答えた。

私は、会話の重点は、背後に本当に強力な証拠がある害悪に置くべきだと思います。アルゴリズムが重要な社会経済的決定や判断を大規模に行うことは、今でもガバナンスの核心であり、第一級の問題です。

彼は、大規模言語モデル（LLM）の透明性要件などの問題を含め、AI の未来をポジティブなものにする方法について「共感し、関心を持っている」としながらも、「ここでボールを失わないようにしよう」と語っている。

AI 規制の「Schumer 的」プロセス

それでも彼が「Schumer 的プロセス」と呼ぶものによって、各オフィスから多くの提案がなされ、多くの公開討論が行われることを期待していると語った。私は最近、9月13日の AI Insight Forum が非公開であることに疑問を呈したが、Engler 氏は「実際の有意義な目標が知識開発であるならば、公開フォーラムを開催しないことには潜在的な価値があります」と述べた。

今回特徴的なのは、Schumer 氏の組み立て方だと彼は言う。

市民の注目を浴びつつも、非公開でより真剣な質問の質を高めたいようです。率直に言って、（公開）技術政策公聴会の歴史を見てみると、最も心強く、最も本質的なものではありません。

Axios が入手した9月13日のイベントのコピーによると、キックオフとなる AI Insight Forum は、午前中に3時間のパネルで始まり、招待されたスピーカー（ビッグテックの CEO を含む）が発言し、午後に3時間のセッションで「AI における大きな疑問」と今後のフォーラムで議論されるトピックを探る。通達によれば、上院議員は発言も質問もできない。むしろ、伝統的な委員会の公聴会ではなく、専門家同士の対話の場として構成されている。

ChatGPT は、「私には個人的な意見も感情もない」と言って、さまざまな意見を聞き逃しているのが残念だ。AI 規制をめぐる議論の秋が目白押しのようなので、私も自分の意見とポップコーンを準備しているところだ。

【via VentureBeat】 @VentureBeat

【原文】