AI研究のオープンネス

（前回からのつづき）Abdurahaman氏は、財務上の繋がりを公開することがAI研究者のスタンダードへと繋がるのではないかと指摘している。「例えば医療品のような分野では、自身がどの製薬会社から資金の提供を受け研究を実施しているかなど開示する義務が伴っています。なぜなら、そのバックグランドに研究の方向性やそもそもの前提情報など全てが集約されているから」と述べる。NeurIPS AIカンファレンスでは、今年初めて、利益相反の可能性、また、研究が社会に対して与える影響を明記することを義務付けている。

AI倫理とコンピューターサイエンス

ビッグテックとビッグタバコを比較した研究で示されているように、学術界は倫理学を別の分野として維持するべきだとされている。これは、生命倫理学と生物学が異なる分野とされていることと似ている。しかし、Abdurahaman氏は、産業界と学術界は既に分離化されており、この手法に対して懐疑的な姿勢を見せている。

「何かを想像した人が悪い、それに対して何か異論を述べる人たちを区分けするのではなく、さらに批判的な倫理的な実践が必要です」

倫理学の研究者と機械学習の研究者の一部では、AIと労働者、AIと気候変動、AIと海洋学など枠組みを超えた取り組みを推奨している。実際、Gebru氏はGoogle Researchのチームに対して初めて社会学者を招集し、Fairenessに対するフレームワークを導入させるなどしていた。

まとめ

2018年にGoogleがPentagonと共同で軍事に特化したドローン映像コンピュータービジョンのプロジェクト「Maven」に取り組んでいるという情報が出た際には、数千人規模の従業員が反対の声を上げていた。その後にも、セクハラなどを含めた抗議として、世界中のGoogle社員が退職運動に参加する動きが見られた。特にAI倫理委員会は数日で解散する結果となるなど迷走が続いていた。

Gebru氏の解雇から2週間（訳註：原文の掲載日は12月16日）が経過したが、Googleではまだ問題が多く残っているように思える。Bussiness Insiderによれば同社AIチーフのJeff Dean氏がオールハンズエンドオブイヤーコールを中止したことを明らかとしている。本誌がGebru氏にインタビューした先週、彼女はBBCやSlate、MIT Tech Reviewなどのメディアで多くを語っている。

アルゴリズムの偏りに関連した法案を支援した実績のある議員は本日、Googleのサンダー・ピチャイCEO に書簡を送り、Google が大規模言語モデルにおける偏りをどのように緩和しているのか、Gebru氏に起こったことをさらに調査して多様性を促進する計画をどのようにしているのかを尋ねた。

署名者にはYvette Clarke議員（D-NY）とCory Booker上院議員（D-NY）が含まれている。2人は企業にアルゴリズムに偏りがないかどうかを評価することを義務付ける2019年の法案「Algorithmic Accountability Act（アルゴリズム説明責任法）」の共作者である。Booker氏は今年初め、連邦政府の顔認証モラトリアムを共催一人でもある。金融融資における偏りを疑問視したElizabeth Warren上院議員（D-MA）や、抗議活動で顔認証のような技術の使用に疑問を呈したRon Wyden上院議員（D-OR）も署名している。

そしてまさに今日だ：Googleの倫理AI チームのメンバーは追加の要求をピチャイ氏に送って、ポリシーの変更とGebru氏の仕事を取り戻すことを求めている。

今年初め、筆者は機械学習の行く末に関するレポートを書いた。特に、監視や抑圧、白人至上主義に対峙するAI企業と、公平な世界を実現するために活動している企業についてフォーカスしていた。それ以降、実際に私たちが直面したのは。AI Now Instituteが触れているように、この分野が一歩立ち止まる時がきたということだ。

Gebru氏の例を見ても分かるように、多様性に対する投資の欠如がよろしくない労働環境を生み出しかねないことを浮き彫りにした。また、企業のリーダーがそうした問題を直視しない場合、従業員は人の人生に関わるAIの利用に対して従業員たちが世間に対して注意喚起すべきかどうか、という疑問にも繋がっていく。またアルゴリズムの偏りをできるだけ少なくするということは、世界共通認識であるにも関わらず、多種多様な従業員を採用しないというのはまさに失敗の根源を作り出していると言えるだろう。

この記事のために話を聞いた有識者たちは、人間の生活を形作る技術をある程度規制する必要があることに同意していると感じた。彼らはまた、より強力な説明責任と執行メカニズム、制度や政府政策の変更を求めている。Gebru氏の例によって提起された横断的な問題に対処するための措置は、学術研究の独立性を確保するためだけではなく、幅広いテックワーカーたちによる組合の必要性や、もっと大きな組織連合に至るまで幅広い懸念に対して対応する必要があると感じた。

【via VentureBeat】 @VentureBeat

【原文】

大手テック企業への課税

（前回からのつづき）Abdurahman氏、Colclough氏、McNealy氏はテック企業への増税を強く支持している。その税金から連邦取引委員会（FTC）の規制監督下にあるような学術研究機関や執行機関に資金を提供できるだけでなく、企業が依存する公共インフラストラクチャや学校をサポートすることもできる。

「大企業が研究に資金を提供することが認められてきた理由の一つは、そうしなければ研究できなかった、資金がないために研究ができなかったからです。ここで基本に立ち返り、「一般財源に支払われたお金を大学が確実に受け取れるようにするが、結論に影響を与えることはない」ことを確認すべきです」。

Colcough氏はこのように述べ、法人税が既存の差別禁止法の執行を強化できると付け加えた。公民権法のような既存の法律の執行、特に公的資金に関わる問題については、6月にAIとコンピューティングの黒人専門家たちのグループが署名した公開状で取り上げられている。課税することで執行に資金が回るようになれば、新進気鋭のスタートアップに規制上の注意が引き付けられる可能性もある。McNealy氏は法人に相当するものと同様に「悪い影響」を伴うことがあると述べた。

大手テック企業の納税義務を再検討するという考えは公的にも支持されている。バイデン次期大統領はキャンペーンでAmazonにより多くの所得税を払わせることを約束し、EUは「ゲートキーパー」であるテック企業に10%の消費税を課す法案を検討している。

課税により、価値の尺度を収益性に依存しないテクノロジーにも資金を提供できる。Abdurahman氏は世界には公的なツールが必要であり、人々は身の回りのあらゆるテクノロジーを提供する一握りの企業を超えて、想像力を広げる必要があると述べた。

公共部門のAIはしばしば金融引き締め政策として語られるが、Abdurahman氏は公益技術を非営利で、社会的利益のために設計され、社会を代表する連合によって作られると定義している。彼女はそこに研究者のみならずその技術の影響を最も受ける人々も含めるべきだと考えている。

「公益技術はまったく新しい世界の可能性を開きます。「この実に不完全な算法をどうやって修正するのか？」を理解するのではなく、追求する必要があります。秩序を保つために民間の技術に頼るのなら、望みはありません。議員と政策立案者は公益技術に資金を提供する責任があると思います」。（Abdurahman氏）

こうした取り組みの一部は利益を生まないかもしれないが、AIを考える価値は収益性だけではないはずだとChowdhury氏は述べた。（次につづく）

【via VentureBeat】 @VentureBeat

【原文】

AI倫理研究から企業投資を排除

（前回からのつづき）Gebru氏の解雇から数日間で、2,000人以上のGoogle社員が「前例のない研究検閲」を主張する公開状に署名した。その余波で一部のAI研究員は同社が事件によって提起された不満に対処するまでGoogle AIの論文をレビューすることを拒否すると述べた。広く言えば、Googleで起こったことは、実際に認められている学術研究全体がもつ影響力について疑問を投げかけている。

来年カリフォルニア大学バークレー校の准教授となるRediet Abebe氏は、「NeurIPS Resistance AI」のワークショップで、Googleからの研究資金を受け入れない理由を説明した。また、学界の上級教員は大手テックの研究資金について話すべきだと意見している。

「資金源と自分の研究内容とを分離することは、1人ならおそらく可能かもしれませんが、全体となると影響力をもつことを認めなければなりません。研究者の多くが同じ資金源から資金を受け取っている場合、共にその資金源に報いる方向へと研究が傾いていく可能性があります」。（Abebe氏）

一方、弁護士のJasmine McNealy氏はフロリダ大学のジャーナリズムの准教授とハーバード大学のバークマンセンターに所属する教員を兼務している。McNealy氏は最近、AI倫理研究のためにGoogleからの資金提供を受けた。彼女は、現在の経済環境であれば、公立大学がテック企業だけでなく事実上あらゆる資金源からの資金提供を断ることができるという考えに懐疑的だ。

「州の立法局や知事が「この種の組織や人々からの資金は好ましくない」と言わないかぎり、大学、特に公立の大学が組織からの資金の受け取りをやめることはないと思います」。（Abebe氏）

公的な研究投資はますます増える可能性がある。バイデン政権の政策は、人工知能も含め多くの分野での研究開発資金として3,000億ドルを掲げている。Googleの研究検閲が告発される一方、AI研究者は企業の影響力に疑問を投げかけ、Big Tobacco（大手タバコ会社）が過去数十年にわたり医療研究へ投資してきたこととの比較を行っている。深層学習の時代におけるテック大手、一流大学、その他すべての人々の計算処理能力の格差と不平等の拡大を指摘するAI研究者もいる。

Googleは他のどの企業よりも多く、アカデミックなAI人材を終身雇用しており、最も多くのAI研究を生みだしている。（次につづく）

【via VentureBeat】 @VentureBeat

【原文】

（前回からのつづき）最近の多くの出来事から、内部告発者の保護が得策だと言える理由が示されている。2019年秋のNatureの調査によると、病院で使用されているアルゴリズムが米国内の何百万人もの黒人に対する差別に関わっている可能性があることがわかった。最近ではアルゴリズムがどのようにして黒人の腎臓移植受診を妨害したかが明らかになっている。

さまざまな理由から、この記事のソースは内部告発者保護を慎重にサポートしている。Colclough氏は内部告発者法のような特別な保護の形を支持しているが、これは大きな計画のほんの一部であるべきだと信じている。このような法律は雇用、医療、融資など、すでに偏見がみられる分野でAIが潜在的に展開され、生活に害を及ぼす可能性がある場合に特に有益だ。

Colclough氏は別の選択肢も提起している。政府の規制当局に苦情を申し立てる権利を市民に与えることだ。GDPR（EU一般データ保護規則）により、企業が法律に準拠していないと判断すれば市民は国のデータ機関に報告することができ、国のデータ機関には調査する義務が発生する。偏見からの解放と救済への道は、昨年提案されたアルゴリズムの権利章典の一部だ。

Chowdhury氏はさらなる保護をサポートすると述べたが、内部告発は最後の手段であるべきだと警告した。彼女は公になっている内部告発者が保守派や白人至上主義者によって「ダンクシュートを試みる左翼のSJW（社会正義戦士）」として描かれる可能性があるとして懸念を表明した。

また、内部告発が検討される前に建設的な反対意見を表明したい従業員のために企業側が道を確立させておくべきだとChowdhury氏は考えている。Googleの社員はモデルに関連した不満や不安を共有するための内部的な方法をもっていると、今秋のプレスイベントでVentureBeatおよび他の報道機関に語った。Googleの広報は、社内でもっとも批判を集めたユースケースやモデルを具体的に発表することを拒否した。

だがAbdurahman氏は、こういった法律がどの労働者を保護するのかを問い、「一連の調査は現段階で必要とされているものよりも保守的だと思います」と述べた。（次につづく）

【via VentureBeat】 @VentureBeat

【原文】