ピックアップ：Why AI might need to take a time out

2023年3月はテック・インターネット史においても忘れられない1カ月になると思います。振り返ればドットコムバブルやiPhoneの登場、TechStars・YCombinatorなどのシードアクセラレーション開始などなど、パラダイムがシフトする節目節目にはハイプ（誇大な宣伝）を超えた本物の話題が人々の間で広まるものです。ChatGPTはそういう意味で、かつてない速度で人々を話題の渦に巻き込んでいきました。

• 対話式AI「ChatGPT」の衝撃（関連記事）

一方、この流れに対して待ったをかける動きも出てきています。今、話題になっている「Pause Letter（Pause Giant AI Experiments: An Open Letter）」がそれで、Elon Musk氏、Steve Wozniak氏、Yoshua Bengio氏、Gary Marcus氏らをはじめとするAIの専門家、研究者、業界リーダーが署名しています。また、イタリアは国ごとジオブロックをかける決定をしました。

こちらはEUの一般データ保護規則（GDPR）法を遵守していることが確認できるまでの一時的なものだとしています。ちなみにレターは必要に応じて政府介入も必要と記載していますが、それに連動したかは定かではありません。

• イタリアがChatGPTをブロックーーAI大規模規制を求める声が相次ぐ1週間

ChatGPTにおけるデータの扱い・プライバシーについては各所で言われていますが、例えばこちらの記事が、身近な情報漏洩のリスクについて現時点で考えられるものを整理しています。ただこれは一般論として翻訳やクラウドサービス全般にも言えることなので、あくまで各社ポリシーの話かなとも思いますし、あくまで「現時点」での話です。

さておき、このPause Letterですが、簡単にまとめると大規模AIシステムのトレーニングを少なくとも6カ月間休止するよう求めたもので、全体的なガバナンスについて検証しましょう、というざっくりとした内容になっています。これについて署名した方の寄稿がVentureBeatに掲載されていたのでご紹介します。

彼らは何を危惧しているのでしょうか。

寄稿したのはルイス・ローゼンバーグ氏で、 Nasdaqに上場しているImmersion CorporationやAI研究を手掛けるUnanimous AIの創業者で、この地殻変動の異常なまでの速度に対して規制当局などの対応が不十分であることを危惧し、そのリスクを次の二つにまとめていました。

１：生成的AIシステムが人間レベルのコンテンツや労働者を置き換えるリスク

２：会話型AIが人間レベルの対話を可能にし、本物の人間と見分けがつかないリスク

寄稿にもまとめてあるのですが、労働力へのインパクトについてはOpen AIとOpenResearch、ペンシルベニア大学が共同で実施したリサーチを引き合いに、米国労働人口の20%がGPT-4の影響を受けることを指摘しています。この調査では高所得の仕事ほど大きな影響が予想され、現在の技術で全労働者の仕事の15%をより速く、安く、同等の品質で実施できると予測しているそうです。

一方、今回の6カ月間の停止に署名した理由はそこではなく、別に視点があるそうです。ローゼンバーグ氏は次のようにコメントしていました。

「雇用への影響が懸念されますが、私が「Pause Letter」に署名したのはそのためではありません。 より緊急の懸念は、AIが生成するコンテンツは見た目も本物らしく、しばしば権威あるものとして伝わりますが、事実誤認が容易に起こりうることです。 世界の労働力の大部分を占めることになるこれらのシステムが、微妙な間違いから荒々しい捏造まで、誤りを伝播しないことを保証するための精度基準や管理機関は存在しません。私たちは、保護措置を講じ、これらの保護措置が確実に使用されるように規制当局を強化する時間が必要なのです」。

実際、筆者もChatGPTをLINEに組み込んだアプリを試した際、「銀座で美味しいラーメン屋教えて」と尋ねたところ、自信たっぷりに架空の店舗をおすすめされました。これはGPTそのもののデータには現実世界の固有情報はほとんど含まれておらず、現在、提供されている「プラグイン」などのシステムを通じて各社が提供する必要があるからです。

LINEとChatGPTの相性良すぎ pic.twitter.com/0FGheyRPtB

— kigoyama@BRIDGE ♥ PR TIMES Media (@kigoyama) March 3, 2023

寄稿でも指摘していますが、第三者がプロモーション目的で自然な会話を行い、ユーザーが操作されて不要な商品やサービスを購入したり、誤った情報を信じる可能性が懸念される、というのです。

数年前、Facebookがメッセンジャーにチャットボットのシステムをサードパーティーに開放した際、友人の起業家が冗談のように自分と同じような回答をするボットを作っていたことがありました。私は本当にその方と間違って数分間気づかずに会話したことがあるぐらいなので、現在のChatGPT-4のレベルであれば、その人固有のデータを使うことで極めて見分けをつけるのが難しくなる可能性も想像できます。

「Pause Letter」やイタリアで規制の動きをみてイノベーションが止まるという危惧は正直ありません。もうこの動きは不可避だと思いますが、適切なガバナンスをどうつくるかというのは双璧の課題として考える必要がありそうです。