なぜGoogleはGebru氏を解雇したのか：内部告発のためのガイドラインの必要性（5/9） - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報

Photo by **Deepanker Verma** from **Pexels**

AI研究者に向けた内部告発の保護

（前回からのつづき）GoogleがGebru氏を解雇する数日前から、彼女がチーム内で上手くいっていないことは彼女のツイートからも明らかであった。あるツイートでは、AI倫理研究者保護に対する規制について問いかけるツイートをしていた。

Is there anyone working on regulation protecting Ethical AI researchers, similar to whistleblower protection? Because with the amount of censorship & intimidation that goes on towards people in specific groups, how does anyone trust any real research in this area can take place?

— @[email protected] on Mastodon (@timnitGebru) December 1, 2020

Pinterestの元従業員Ifeoma Ozoma氏は、Omidyar Networkに向けたテクノロジー企業における内部告発者のニーズについてまとめたレポートを完成している。同レポートでは、同氏が経験したPinterestでの嫌な思い出や人種差別に関するレポートが記されている。

同氏はプロジェクトの一環で、来年度に向けテクノロジー業界に向けた内部告発のためのガイドラインを発表する予定だとする。また、そうした内部告発者に向けて身体的・精神的な支援を目的とした資金提供活動も開始する予定だという。同氏は内部告発により個人そして家族が健康保険を失うことになるという実情を述べ、失うもののリスクについてもフォローされるべきというスタンスを見せている。

「声を上げられる環境が整っていること自体が抑止力になりますし、その発言によりパブリックな利益がもたらされる情報であれば、大きな金銭的な結果にも繋がるでしょう」。

カリフォルニア大学バークレー校のCenter for Law and Technologyの共同ディレクター、Sonia Katyal氏は、倫理研究者のための内部告発者法の強化を支援している。彼女はVentureBeatにこう話した。

「現在の法律は実に不十分だと断固として主張します。心配すべきなのは、（Gebru氏のような）非常に才能のあるすべての研究者がこのような場に雇われ、口を封じられてしまう世界です。それが現実となれば内部告発者の保護は必要不可欠になります」。

昨年UCLA・ロー・レビューに発表された論文で、AIと公民権が交差するときに生じる問題において、内部告発者の保護が必要なツールの一部になるとKatyal氏は論じている。彼女は内部告発者の保護は、企業が自主規制に依存している状況やアルゴリズムの偏見に対抗するために特に重要になる可能性があると主張する。Cambridge AnalyticaによるFacebookユーザーデータの不正取得がChristopher Wylie氏に内部告発されたように、ビッグデータとAIの悪用は内部告発者によって世に出るものだ。当時、Katyal氏はWylie氏の報告内容を「アルゴリズムの偏見が現代社会に与える潜在的な影響からみれば氷山の一角にすぎない」と表現した。

UCLA・ロー・レビューの論文にはこう書かれている。

「営業秘密法や著作権法が潜在的に不透明性、不可解性、および開示の障害になりうることから、内部告発がAIを考える上で適切な手段のひとつなのかもしれません」。

ビッグデータの時代に説明責任と透明性を向上させるにあたって、アルゴリズムに独占所有権があるとする企業の主張は主な障害となる。Katyal氏はアルゴリズムに関する情報を開示しない企業の権利と、市民が差別のない世界に暮らす個人の権利との衝突を懸念している。政府機関が民間企業とのデータ利用やAIサービスの契約を結ぶことが増えるにつれて、この問題はますます大きくなっていくだろうと彼女は警告する。

他の研究者らも、民間企業が一般的に研究カンファレンスの論文や法廷あるいは規制当局との間でコードを共有することは少ないと指摘している。

米国にはすでに内部告発者保護法など労働者を報復から保護するさまざまな法がある。また、営業秘密防衛法（DTSA）もある。2016年に可決されたこの法律には、雇用主による営業秘密の不正流用の申し立てに対して保護を提供するという条項が含まれている。しかしKatyal氏はこの議論は限定的だとして、DTSAが規制されていない巨大なAIの世界においては小さなツールだと主張した。