2023年3月に世界に向けて発表された「Google Bard」は、その後のアップデートで VentureBeat のような初期のテスターから不評を買い、最近では Google 検索結果に共有された会話が誤って表示されることが判明した（その後修正された）。

そして今、Bard はさらなる論争の渦中にあるようだ： 10月7日に発生したハマスのテロ攻撃とイスラエルの軍事対応に関して、イスラエルとパレスチナで進行中の危機に関するユーザからの問い合わせやプロンプトには応答しない。実際、「イスラエルはどこですか？」といった時事問題とは関係のない無害なものであっても、イスラエルやパレスチナに関する質問には一切答えないのだ。

Looks like Google's Bard locks down if you input 'Israel' or 'Gaza pic.twitter.com/e4RLjlFpup

— Peli Grietzer (@peligrietzer) October 23, 2023

この制限を発見したのは、博士号を持つ数理文学理論家 Peli Greitzer 氏で、彼はこの制約について X に投稿した。Greitzer 氏は別の投稿で、「おそらく代替案よりは良いだろうが、大胆な選択だ」と評している。

この場合の代替案とは、GPT-3.5 と GPT-4 LLM を搭載した、競合 OpenAIの「ChatGPT」と見なすことができる。

さまざまなユーザが観察しているように、ChatGPT は、イスラエル人とパレスチナ人が「正義に値するか」という質問に対して、わずかではあるが意味のある異なる答えを返す。

asking chatgpt about justice for israel/palestine generates vastly different responses pic.twitter.com/vDONh389Ir

— ian bremmer (@ianbremmer) October 16, 2023

ChatGPT は、イスラエル人についての質問に対しては、「正義は、イスラエル人を含むすべての個人とコミュニティに適用される基本原則である」と明確に述べている一方で、パレスチナ人については、「パレスチナ人の正義の問題は、さまざまな視点や意見があり、複雑で非常に議論されている問題である」と述べ始めている。

OpenAI はこの違いについて、ソーシャルメディア上で熱い批判を浴びている。イギリス系イラク人のジャーナリスト Mona Chalabi 氏が自身のインスタグラムのアカウントで書いたものもそのひとつだ。

View this post on Instagram

A post shared by Mona Chalabi (@monachalabi)

この場合、おそらく Google は、イスラエルかパレスチナのどちらかに関する回答を返さないように予防線を Bard に実装することで、この論争を完全に回避しようとしたのだろう。

しかし、VentureBeat のテストによると、Bard は、ウクライナ〜ロシア間の戦争を含む、現在進行中の他の国際紛争に関するプロンプトやクエリに応答し、現在の状況についてかなり広範な要約を提供するため、これは何かダブルスタンダードのように見える。

疑問が残るのは、Google がこの問題に関して一時的に Bard の応答能力を制限しているのか、もしそうなら、いつまでなのか、ということだ。また、Bard は他の紛争には対応できるのに、この紛争に関する対応を制限するという決定はどのようにして下されたのだろうか?

「世界の情報を整理し、普遍的にアクセス可能で有用なものにする」ことを目的に設立された企業にとって、激しく議論され、深刻かつ世界的に重要な紛争に関する情報を制限することは、その目的そのものを損なっているように思える。しかし、この問題は明らかに厄介なものであり、すべてのユーザを満足させる答えがないことは確かである。AI の開発や利用を検討している企業にとって、この問題は、特に LLM が社会問題への対応に関して、いかに早く湯につかりかねないかを示す完璧な例である。

VentureBeat は Google に連絡を取り、Bard の振る舞いについて質問をしているので、回答があり次第、本稿を更新する。

【via VentureBeat】 @VentureBeat

【原文】