なぜGoogleはGebru氏を解雇したのか:AIによって生まれる偏見をなくす(6/9)

SHARE:
Photo by Deepanker Verma from Pexels

(前回からのつづき)最近の多くの出来事から、内部告発者の保護が得策だと言える理由が示されている。2019年秋のNatureの調査によると、病院で使用されているアルゴリズムが米国内の何百万人もの黒人に対する差別に関わっている可能性があることがわかった。最近ではアルゴリズムがどのようにして黒人の腎臓移植受診を妨害したかが明らかになっている。

さまざまな理由から、この記事のソースは内部告発者保護を慎重にサポートしている。Colclough氏は内部告発者法のような特別な保護の形を支持しているが、これは大きな計画のほんの一部であるべきだと信じている。このような法律は雇用、医療、融資など、すでに偏見がみられる分野でAIが潜在的に展開され、生活に害を及ぼす可能性がある場合に特に有益だ。

Colclough氏は別の選択肢も提起している。政府の規制当局に苦情を申し立てる権利を市民に与えることだ。GDPR(EU一般データ保護規則)により、企業が法律に準拠していないと判断すれば市民は国のデータ機関に報告することができ、国のデータ機関には調査する義務が発生する。偏見からの解放と救済への道は、昨年提案されたアルゴリズムの権利章典の一部だ。

Chowdhury氏はさらなる保護をサポートすると述べたが、内部告発は最後の手段であるべきだと警告した。彼女は公になっている内部告発者が保守派や白人至上主義者によって「ダンクシュートを試みる左翼のSJW(社会正義戦士)」として描かれる可能性があるとして懸念を表明した。

また、内部告発が検討される前に建設的な反対意見を表明したい従業員のために企業側が道を確立させておくべきだとChowdhury氏は考えている。Googleの社員はモデルに関連した不満や不安を共有するための内部的な方法をもっていると、今秋のプレスイベントでVentureBeatおよび他の報道機関に語った。Googleの広報は、社内でもっとも批判を集めたユースケースやモデルを具体的に発表することを拒否した。

だがAbdurahman氏は、こういった法律がどの労働者を保護するのかを問い、「一連の調査は現段階で必要とされているものよりも保守的だと思います」と述べた。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

BRIDGE Members

BRIDGEが運営するメンバー向けイベント「Tokyo Meetup」では新サービスの紹介やノウハウ共有などを通じて、スタートアップと読者のみなさんが繋がる場所を提供いたします。メンバー登録は無料です。
  • BRIDGE Canvasの購読
  • メンバー向けDiscordご招待
  • BRIDGE Tokyoなどイベントご招待
無料メンバー登録