特集:活躍する女性たち

給与格差やハラスメント是正に動くスタートアップの必要性とその方法

SHARE:

性別やマイノリティ格差を是正する動きが欧米を中心に長く続いています。また、日本でも見かける給与格差やハラスメント是正に動くスタートアップが登場しています。 「PayScale」のデータでは、女性の収入の中央値と男性の収入の比率を算出したところ、男女間の賃金格差は2015年から0.07ドルしか縮まっていないそうです。2020年には女性は男性の稼ぎ1ドルに対して0.81ドルしか稼げない状況で、40年間…

Image Credit:Syndio

性別やマイノリティ格差を是正する動きが欧米を中心に長く続いています。また、日本でも見かける給与格差やハラスメント是正に動くスタートアップが登場しています。

「PayScale」のデータでは、女性の収入の中央値と男性の収入の比率を算出したところ、男女間の賃金格差は2015年から0.07ドルしか縮まっていないそうです。2020年には女性は男性の稼ぎ1ドルに対して0.81ドルしか稼げない状況で、40年間のキャリアにわたって与えられた推定昇給を計算すると、生涯で平均90万ドルの損失を被ることが判明しています。

たとえばジェンダーが原因の給与格差などは、大手企業であればあるほどネガティヴなブランドイメージしか世の中に与えません。そこで登場した「Syndio」は、給与分析を通じて、適正な給与体系を提案するサービスを展開しています。同社はこのほどシリーズBの資金調達で1,710万ドルを調達したと発表しました。Bessemer Venture Partnersが資金調達ラウンドをリードし、Next Play CapitalとConcrete Rose Capitalが追加出資しています。

性別、人種、民族、年齢に結びついた差別的な給与の差を根絶し、それらの格差を是正するための施策提案までを提供しています。たとえば、Syndioのスタッフィング機能では、全体的な公平性を維持するために、新規採用者を雇用するための適正な給与計算をおこないます。

Nordstrom、Slack、Adobe、Vimeoなど60社以上の顧客を抱えており、賃金差別訴訟やネガティブな報道から顧客企業を守るのに役立っているそうです。賃金平準化への取り組みは、強力な採用ツールにもなっています。

Image Credit:Tall Poppy

給与だけでなく、ハラスメントに関しても問題視されています。2017年の調査では「アメリカ人の5人に1人近く(18%)が、身体的な脅迫、持続的な嫌がらせ、セクハラ、ストーカー行為など、オンライン上で特に深刻な形態のハラスメントを受けたことがある 」という情報もあります。コロナ前のデータではありますが、直接誰かに触れる機会がなくなったことで、嫌がらせはインターネットへと場を移すことも考えられます。

Tall Poppy」はオンラインハラスメントに特化した従業員ケアサービスを提供している企業です。各ケースを審査した上で、正しい対処方法や法的処置の知識、セーフティスコアの計測など、あらゆるシチュエーションに対処してくれます。このようなオンライン化が進んだ社会における新たな犯罪から従業員を守るサービスにも注目が集まりそうです。

また、1,000万ドルの資金調達を果たしている「Emtrain」は、データドリブンなアプローチから、企業カルチャーを公平に保つためのオンライン教育やガイダンスサービスを通じて、主に女性の不均等を是正するためのプラットフォームを展開しています。

職場の文化的要素を随時モニタリングし、問題を診断。グローバル平均と比較してベンチマークとなる項目を洗い出します。企業教育システムおよび人事システムと連携し、パワハラ、セクハラ、悪い企業倫理観、無意識バイアスなど、リスクが高いと判断された項目を解決するためのオンライン教育コンテンツを提供しているのです。従業員からのサーベイ調達に対応する形で最適な是正モデルを適用するサービスフローです。

今後、このような米国サービスのように、日本でもAIやビックデータを活用して対処しきれなかった、もしくは個別に対応していた企業人事の問題が効率的かつ定量的なアプローチから解消されていくかもしれません。

なぜGoogleはGebru氏を解雇したのか:人の生活に関係する技術を規制する必要性(9/9)

SHARE:

AI研究のオープンネス (前回からのつづき)Abdurahaman氏は、財務上の繋がりを公開することがAI研究者のスタンダードへと繋がるのではないかと指摘している。「例えば医療品のような分野では、自身がどの製薬会社から資金の提供を受け研究を実施しているかなど開示する義務が伴っています。なぜなら、そのバックグランドに研究の方向性やそもそもの前提情報など全てが集約されているから」と述べる。NeurIP…

Photo by Deepanker Verma from Pexels

AI研究のオープンネス

(前回からのつづき)Abdurahaman氏は、財務上の繋がりを公開することがAI研究者のスタンダードへと繋がるのではないかと指摘している。「例えば医療品のような分野では、自身がどの製薬会社から資金の提供を受け研究を実施しているかなど開示する義務が伴っています。なぜなら、そのバックグランドに研究の方向性やそもそもの前提情報など全てが集約されているから」と述べる。NeurIPS AIカンファレンスでは、今年初めて、利益相反の可能性、また、研究が社会に対して与える影響を明記することを義務付けている。

AI倫理とコンピューターサイエンス

ビッグテックとビッグタバコを比較した研究で示されているように、学術界は倫理学を別の分野として維持するべきだとされている。これは、生命倫理学と生物学が異なる分野とされていることと似ている。しかし、Abdurahaman氏は、産業界と学術界は既に分離化されており、この手法に対して懐疑的な姿勢を見せている。

「何かを想像した人が悪い、それに対して何か異論を述べる人たちを区分けするのではなく、さらに批判的な倫理的な実践が必要です」

倫理学の研究者と機械学習の研究者の一部では、AIと労働者AIと気候変動AIと海洋学など枠組みを超えた取り組みを推奨している。実際、Gebru氏はGoogle Researchのチームに対して初めて社会学者を招集し、Fairenessに対するフレームワークを導入させるなどしていた。

まとめ

2018年にGoogleがPentagonと共同で軍事に特化したドローン映像コンピュータービジョンのプロジェクト「Maven」に取り組んでいるという情報が出た際には、数千人規模の従業員が反対の声を上げていた。その後にも、セクハラなどを含めた抗議として、世界中のGoogle社員が退職運動に参加する動きが見られた。特にAI倫理委員会は数日で解散する結果となるなど迷走が続いていた。

Gebru氏の解雇から2週間(訳註:原文の掲載日は12月16日)が経過したが、Googleではまだ問題が多く残っているように思える。Bussiness Insiderによれば同社AIチーフのJeff Dean氏がオールハンズエンドオブイヤーコールを中止したことを明らかとしている。本誌がGebru氏にインタビューした先週、彼女はBBCSlateMIT Tech Reviewなどのメディアで多くを語っている。

アルゴリズムの偏りに関連した法案を支援した実績のある議員は本日、Googleのサンダー・ピチャイCEO に書簡を送り、Google が大規模言語モデルにおける偏りをどのように緩和しているのか、Gebru氏に起こったことをさらに調査して多様性を促進する計画をどのようにしているのかを尋ねた。

署名者にはYvette Clarke議員(D-NY)とCory Booker上院議員(D-NY)が含まれている。2人は企業にアルゴリズムに偏りがないかどうかを評価することを義務付ける2019年の法案「Algorithmic Accountability Act(アルゴリズム説明責任法)」の共作者である。Booker氏は今年初め、連邦政府の顔認証モラトリアムを共催一人でもある。金融融資における偏りを疑問視したElizabeth Warren上院議員(D-MA)や、抗議活動で顔認証のような技術の使用に疑問を呈したRon Wyden上院議員(D-OR)も署名している。

そしてまさに今日だ:Googleの倫理AI チームのメンバーは追加の要求をピチャイ氏に送って、ポリシーの変更とGebru氏の仕事を取り戻すことを求めている。

今年初め、筆者は機械学習の行く末に関するレポートを書いた。特に、監視や抑圧、白人至上主義に対峙するAI企業と、公平な世界を実現するために活動している企業についてフォーカスしていた。それ以降、実際に私たちが直面したのは。AI Now Instituteが触れているように、この分野が一歩立ち止まる時がきたということだ。

Gebru氏の例を見ても分かるように、多様性に対する投資の欠如がよろしくない労働環境を生み出しかねないことを浮き彫りにした。また、企業のリーダーがそうした問題を直視しない場合、従業員は人の人生に関わるAIの利用に対して従業員たちが世間に対して注意喚起すべきかどうか、という疑問にも繋がっていく。またアルゴリズムの偏りをできるだけ少なくするということは、世界共通認識であるにも関わらず、多種多様な従業員を採用しないというのはまさに失敗の根源を作り出していると言えるだろう。

この記事のために話を聞いた有識者たちは、人間の生活を形作る技術をある程度規制する必要があることに同意していると感じた。彼らはまた、より強力な説明責任と執行メカニズム、制度や政府政策の変更を求めている。Gebru氏の例によって提起された横断的な問題に対処するための措置は、学術研究の独立性を確保するためだけではなく、幅広いテックワーカーたちによる組合の必要性や、もっと大きな組織連合に至るまで幅広い懸念に対して対応する必要があると感じた。

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:課税による公益テクノロジーへの投資という考え方(8/9)

SHARE:

大手テック企業への課税 (前回からのつづき)Abdurahman氏、Colclough氏、McNealy氏はテック企業への増税を強く支持している。その税金から連邦取引委員会(FTC)の規制監督下にあるような学術研究機関や執行機関に資金を提供できるだけでなく、企業が依存する公共インフラストラクチャや学校をサポートすることもできる。 「大企業が研究に資金を提供することが認められてきた理由の一つは、そう…

Photo by Deepanker Verma from Pexels

大手テック企業への課税

(前回からのつづき)Abdurahman氏、Colclough氏、McNealy氏はテック企業への増税を強く支持している。その税金から連邦取引委員会(FTC)の規制監督下にあるような学術研究機関や執行機関に資金を提供できるだけでなく、企業が依存する公共インフラストラクチャや学校をサポートすることもできる。

「大企業が研究に資金を提供することが認められてきた理由の一つは、そうしなければ研究できなかった、資金がないために研究ができなかったからです。ここで基本に立ち返り、「一般財源に支払われたお金を大学が確実に受け取れるようにするが、結論に影響を与えることはない」ことを確認すべきです」。

Colcough氏はこのように述べ、法人税が既存の差別禁止法の執行を強化できると付け加えた。公民権法のような既存の法律の執行、特に公的資金に関わる問題については、6月にAIとコンピューティングの黒人専門家たちのグループが署名した公開状で取り上げられている。課税することで執行に資金が回るようになれば、新進気鋭のスタートアップに規制上の注意が引き付けられる可能性もある。McNealy氏は法人に相当するものと同様に「悪い影響」を伴うことがあると述べた。

大手テック企業の納税義務を再検討するという考えは公的にも支持されている。バイデン次期大統領はキャンペーンでAmazonにより多くの所得税を払わせることを約束し、EUは「ゲートキーパー」であるテック企業に10%の消費税を課す法案を検討している

課税により、価値の尺度を収益性に依存しないテクノロジーにも資金を提供できる。Abdurahman氏は世界には公的なツールが必要であり、人々は身の回りのあらゆるテクノロジーを提供する一握りの企業を超えて、想像力を広げる必要があると述べた。

公共部門のAIはしばしば金融引き締め政策として語られるが、Abdurahman氏は公益技術を非営利で、社会的利益のために設計され、社会を代表する連合によって作られると定義している。彼女はそこに研究者のみならずその技術の影響を最も受ける人々も含めるべきだと考えている。

「公益技術はまったく新しい世界の可能性を開きます。「この実に不完全な算法をどうやって修正するのか?」を理解するのではなく、追求する必要があります。秩序を保つために民間の技術に頼るのなら、望みはありません。議員と政策立案者は公益技術に資金を提供する責任があると思います」。(Abdurahman氏)

こうした取り組みの一部は利益を生まないかもしれないが、AIを考える価値は収益性だけではないはずだとChowdhury氏は述べた。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:AI倫理研究から企業投資を排除できるのか(7/9)

SHARE:

AI倫理研究から企業投資を排除 (前回からのつづき)Gebru氏の解雇から数日間で、2,000人以上のGoogle社員が「前例のない研究検閲」を主張する公開状に署名した。その余波で一部のAI研究員は同社が事件によって提起された不満に対処するまでGoogle AIの論文をレビューすることを拒否すると述べた。広く言えば、Googleで起こったことは、実際に認められている学術研究全体がもつ影響力について…

Photo by Deepanker Verma from Pexels

AI倫理研究から企業投資を排除

(前回からのつづき)Gebru氏の解雇から数日間で、2,000人以上のGoogle社員が「前例のない研究検閲」を主張する公開状に署名した。その余波で一部のAI研究員は同社が事件によって提起された不満に対処するまでGoogle AIの論文をレビューすることを拒否すると述べた。広く言えば、Googleで起こったことは、実際に認められている学術研究全体がもつ影響力について疑問を投げかけている。

来年カリフォルニア大学バークレー校の准教授となるRediet Abebe氏は、「NeurIPS Resistance AI」のワークショップで、Googleからの研究資金を受け入れない理由を説明した。また、学界の上級教員は大手テックの研究資金について話すべきだと意見している。

「資金源と自分の研究内容とを分離することは、1人ならおそらく可能かもしれませんが、全体となると影響力をもつことを認めなければなりません。研究者の多くが同じ資金源から資金を受け取っている場合、共にその資金源に報いる方向へと研究が傾いていく可能性があります」。(Abebe氏)

一方、弁護士のJasmine McNealy氏はフロリダ大学のジャーナリズムの准教授とハーバード大学のバークマンセンターに所属する教員を兼務している。McNealy氏は最近、AI倫理研究のためにGoogleからの資金提供を受けた。彼女は、現在の経済環境であれば、公立大学がテック企業だけでなく事実上あらゆる資金源からの資金提供を断ることができるという考えに懐疑的だ。

「州の立法局や知事が「この種の組織や人々からの資金は好ましくない」と言わないかぎり、大学、特に公立の大学が組織からの資金の受け取りをやめることはないと思います」。(Abebe氏)

公的な研究投資はますます増える可能性がある。バイデン政権の政策は、人工知能も含め多くの分野での研究開発資金として3,000億ドルを掲げている。Googleの研究検閲が告発される一方、AI研究者は企業の影響力に疑問を投げかけ、Big Tobacco(大手タバコ会社)が過去数十年にわたり医療研究へ投資してきたこととの比較を行っている。深層学習の時代におけるテック大手、一流大学、その他すべての人々の計算処理能力の格差と不平等の拡大を指摘するAI研究者もいる。

Googleは他のどの企業よりも多く、アカデミックなAI人材を終身雇用しており最も多くのAI研究を生みだしている(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:AIによって生まれる偏見をなくす(6/9)

SHARE:

(前回からのつづき)最近の多くの出来事から、内部告発者の保護が得策だと言える理由が示されている。2019年秋のNatureの調査によると、病院で使用されているアルゴリズムが米国内の何百万人もの黒人に対する差別に関わっている可能性があることがわかった。最近ではアルゴリズムがどのようにして黒人の腎臓移植受診を妨害したかが明らかになっている。 さまざまな理由から、この記事のソースは内部告発者保護を慎重に…

Photo by Deepanker Verma from Pexels

(前回からのつづき)最近の多くの出来事から、内部告発者の保護が得策だと言える理由が示されている。2019年秋のNatureの調査によると、病院で使用されているアルゴリズムが米国内の何百万人もの黒人に対する差別に関わっている可能性があることがわかった。最近ではアルゴリズムがどのようにして黒人の腎臓移植受診を妨害したかが明らかになっている。

さまざまな理由から、この記事のソースは内部告発者保護を慎重にサポートしている。Colclough氏は内部告発者法のような特別な保護の形を支持しているが、これは大きな計画のほんの一部であるべきだと信じている。このような法律は雇用、医療、融資など、すでに偏見がみられる分野でAIが潜在的に展開され、生活に害を及ぼす可能性がある場合に特に有益だ。

Colclough氏は別の選択肢も提起している。政府の規制当局に苦情を申し立てる権利を市民に与えることだ。GDPR(EU一般データ保護規則)により、企業が法律に準拠していないと判断すれば市民は国のデータ機関に報告することができ、国のデータ機関には調査する義務が発生する。偏見からの解放と救済への道は、昨年提案されたアルゴリズムの権利章典の一部だ。

Chowdhury氏はさらなる保護をサポートすると述べたが、内部告発は最後の手段であるべきだと警告した。彼女は公になっている内部告発者が保守派や白人至上主義者によって「ダンクシュートを試みる左翼のSJW(社会正義戦士)」として描かれる可能性があるとして懸念を表明した。

また、内部告発が検討される前に建設的な反対意見を表明したい従業員のために企業側が道を確立させておくべきだとChowdhury氏は考えている。Googleの社員はモデルに関連した不満や不安を共有するための内部的な方法をもっていると、今秋のプレスイベントでVentureBeatおよび他の報道機関に語った。Googleの広報は、社内でもっとも批判を集めたユースケースやモデルを具体的に発表することを拒否した。

だがAbdurahman氏は、こういった法律がどの労働者を保護するのかを問い、「一連の調査は現段階で必要とされているものよりも保守的だと思います」と述べた。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:内部告発のためのガイドラインの必要性(5/9)

SHARE:

AI研究者に向けた内部告発の保護 (前回からのつづき)GoogleがGebru氏を解雇する数日前から、彼女がチーム内で上手くいっていないことは彼女のツイートからも明らかであった。あるツイートでは、AI倫理研究者保護に対する規制について問いかけるツイートをしていた。 Is there anyone working on regulation protecting Ethical AI researc…

Photo by Deepanker Verma from Pexels

AI研究者に向けた内部告発の保護

(前回からのつづき)GoogleがGebru氏を解雇する数日前から、彼女がチーム内で上手くいっていないことは彼女のツイートからも明らかであった。あるツイートでは、AI倫理研究者保護に対する規制について問いかけるツイートをしていた。

Pinterestの元従業員Ifeoma Ozoma氏は、Omidyar Networkに向けたテクノロジー企業における内部告発者のニーズについてまとめたレポートを完成している。同レポートでは、同氏が経験したPinterestでの嫌な思い出や人種差別に関するレポートが記されている。

同氏はプロジェクトの一環で、来年度に向けテクノロジー業界に向けた内部告発のためのガイドラインを発表する予定だとする。また、そうした内部告発者に向けて身体的・精神的な支援を目的とした資金提供活動も開始する予定だという。同氏は内部告発により個人そして家族が健康保険を失うことになるという実情を述べ、失うもののリスクについてもフォローされるべきというスタンスを見せている。

「声を上げられる環境が整っていること自体が抑止力になりますし、その発言によりパブリックな利益がもたらされる情報であれば、大きな金銭的な結果にも繋がるでしょう」。

カリフォルニア大学バークレー校のCenter for Law and Technologyの共同ディレクター、Sonia Katyal氏は、倫理研究者のための内部告発者法の強化を支援している。彼女はVentureBeatにこう話した。

「現在の法律は実に不十分だと断固として主張します。心配すべきなのは、(Gebru氏のような)非常に才能のあるすべての研究者がこのような場に雇われ、口を封じられてしまう世界です。それが現実となれば内部告発者の保護は必要不可欠になります」。

昨年UCLA・ロー・レビューに発表された論文で、AIと公民権が交差するときに生じる問題において、内部告発者の保護が必要なツールの一部になるとKatyal氏は論じている。彼女は内部告発者の保護は、企業が自主規制に依存している状況やアルゴリズムの偏見に対抗するために特に重要になる可能性があると主張する。Cambridge AnalyticaによるFacebookユーザーデータの不正取得がChristopher Wylie氏に内部告発されたように、ビッグデータとAIの悪用は内部告発者によって世に出るものだ。当時、Katyal氏はWylie氏の報告内容を「アルゴリズムの偏見が現代社会に与える潜在的な影響からみれば氷山の一角にすぎない」と表現した。

UCLA・ロー・レビューの論文にはこう書かれている。

「営業秘密法や著作権法が潜在的に不透明性、不可解性、および開示の障害になりうることから、内部告発がAIを考える上で適切な手段のひとつなのかもしれません」。

ビッグデータの時代に説明責任と透明性を向上させるにあたって、アルゴリズムに独占所有権があるとする企業の主張は主な障害となる。Katyal氏はアルゴリズムに関する情報を開示しない企業の権利と、市民が差別のない世界に暮らす個人の権利との衝突を懸念している。政府機関が民間企業とのデータ利用やAIサービスの契約を結ぶことが増えるにつれて、この問題はますます大きくなっていくだろうと彼女は警告する。

他の研究者らも、民間企業が一般的に研究カンファレンスの論文法廷あるいは規制当局との間でコードを共有することは少ないと指摘している。

米国にはすでに内部告発者保護法など労働者を報復から保護するさまざまな法がある。また、営業秘密防衛法(DTSA)もある。2016年に可決されたこの法律には、雇用主による営業秘密の不正流用の申し立てに対して保護を提供するという条項が含まれている。しかしKatyal氏はこの議論は限定的だとして、DTSAが規制されていない巨大なAIの世界においては小さなツールだと主張した。

企業は、前に出たがったり情報や懸念を一般の人々と共有したがったりする従業員には、とにかくこれは機密情報だと説明するのが彼らを黙らせる最強の方法だということを知っています。(Katyal氏)

(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:テック巨人に立ち向かう方法(4/9)

SHARE:

集団行動・組合連合 (前回からのつづき)J.Khadijah Abdurahman氏はコロンビア大学にてパブリックテクノロジープロジェクトWe Be Imagingを率いており、近年はNeurIPS 2020にてResistance AIワークショップを実施している。GoogleがGebru氏を解雇してからすぐ、同氏はAI倫理分野のモラルが崩壊しているという意図の記事を書いた。 同氏はGebru氏…

Photo by Deepanker Verma from Pexels

集団行動・組合連合

(前回からのつづき)J.Khadijah Abdurahman氏はコロンビア大学にてパブリックテクノロジープロジェクトWe Be Imagingを率いており、近年はNeurIPS 2020にてResistance AIワークショップを実施している。GoogleがGebru氏を解雇してからすぐ、同氏はAI倫理分野のモラルが崩壊しているという意図の記事を書いた。

同氏はGebru氏の解雇を、不動的かつ制度的な組織のレジスタンスを映し出していると述べる。社会正義を貫くための環境への必要性についても触れ、より意味のある研究を生み出すにはAI倫理学に関する議論を研究者と「巨人」という考えから大きくシフトする必要性があると述べている。また彼女は、この件が中央アフリカのコバルト鉱山労働者が経験した被害から、ソーシャルメディアの誤報によって助長される不正に至るまで、テックのサプライチェーンで発見された暴力行為に対処するためには集団的な行動が必要になると訴えている。

今求められているのは研究者やエンジニアのみでなく、Uberの運転手やAmazon倉庫の労働者、モデレーターなど含めより広範囲なテックワーカーを定義することだと同氏は述べる。

「ビッグテックと一人の人間が対峙するような状況は望ましくありません。資金提供や、共に対峙できるような広範囲な連合が求められています」。

NeurIPSでは、まさに連合的な集団行動のアイデアが述べられた。AIに興味を持つ研究者向けのワークショップResistance AIにてGebru氏は今でも企業にて研究者としてリサーチをする人々の考えを支持する理由について述べている。また、2018年にGoogle walkoutのオーガナイザーを務めたMeredith Whittaker氏Claire Stapleton氏に起きたことに重ね合わせて自身の現状について語った。パネルでは、Gebru氏は団体にすることで企業内におけるAI研究者を守ることができるか、という点について問われてこう答えている。

「私たちが行動すべきことは大きく2つあります:私たちはまず、何が今起きているのかを認識し、何ができるのか、どういった変化を起こせるのかについて見極めなければいけません。それと同時に、本当に変化をもたらせなければいけないものを考える時間を取り、政策の変更などだけを目的に行動を急がないことです。ただ、組合や連合の必要性に関しては重要視するべきだと感じていますし、多くの希望があると思います」。

今年秋に実施したインタビューにて、Whittaker氏はFacebookの従業員による集団的な退職などの行動と内部告発は、テックワーカーにとって一つの武器であると表現している。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:ビッグテックがAI倫理研究を進める本当の理由(3/9)

SHARE:

無意味な自主規制 (前回からのつづき)Chowdhury氏(Parity CEO)は、ビッグテック内における倫理チームが単に倫理洗浄活動以上のことをしているとは信じられなくなりつつあると述べる。また、Gebru氏の解雇は企業運営における新たな懸念を持ちあがらせたとも指摘していた。 彼女はGebru氏に起きたことが学術レベルの研究に対する産業界の介入の面でより高いレベルの精査や懸念に繋がるだろうとし…

Photo by Deepanker Verma from Pexels

無意味な自主規制

(前回からのつづき)Chowdhury氏(Parity CEO)は、ビッグテック内における倫理チームが単に倫理洗浄活動以上のことをしているとは信じられなくなりつつあると述べる。また、Gebru氏の解雇は企業運営における新たな懸念を持ちあがらせたとも指摘していた。

彼女はGebru氏に起きたことが学術レベルの研究に対する産業界の介入の面でより高いレベルの精査や懸念に繋がるだろうとし、GoogleがGebru氏を解雇したことはより広範囲な意味合いでAI倫理コミュニティーに対する信憑性・信頼性に関わると言及している。

ビッグテックとAI倫理について有識者であれば、もしかしたらビッグテックによる自主規制はほぼ不可能であるという結論に達しているかもしれない。過去数年でより注目され出している問題だが、例えばEUの規制当局がGoogleに対して独占禁止法で訴訟した10年前からそうした結論は見えていたように思う。

Colclough氏は(Why Not Lab・ディレクター)は、ビッグテックとAI倫理についてもはや手が負えない状況であることに同意し、彼らが規制を避ける手段としてAI倫理研究に参入していると主張する。「多くの政府がビッグテックからの働きかけを受け続けた結果、自主規制を放置することで規制による責任から逃れようとしている」と同氏は述べている。同氏はGebru氏を解雇した経緯に検閲行為があったことは疑いの余地がないとし、「Googleは自分たちの意図とは違う意見に対して、黙らすという手段を用いたのです。まさに彼らの行動が自主規制の信頼性の乏しさを示している」と断罪した。

米国では規制当局のビッグテックに対する規制処置は遅れ気味だ。しかし、最近ではいくつかの独占禁止法に抵触するとして訴訟が動いている。先週のFacebookの独占禁止法違反に先立ち、Googleは司法省から訴訟に対峙していたが、これは1990年代以降のビッグテックに対する米国における訴訟では初となる。同訴訟では60ページにわたる起訴状で構成され、GoogleがAIとユーザーデータを利用し同社の優位性を保とうとしていることを指摘しており、数日中に追加の訴訟が予定されているとしている。今年の秋には、ビッグテックの独占を防ぎ市場に競争をもたらすために独占禁止法自体の改革が必要であるという議会の結論に至っている。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

なぜGoogleはGebru氏を解雇したのか:第三者機関によるAI監査の必要性(2/9)

SHARE:

第三者機関によるアルゴリズム監査の必要性 (前回からのつづき)Chiristina Colclough氏はWhy Not Labでディレクターを務め、またGlobal Partnership on AI(GPAI)の運営委員会メンバーでもある。GPAIは今年6月に米国、EUを含む15カ国のメンバーで発足し、今月初めにはブラジルを含む3カ国が新たに選出された。同氏に「Googleにアドバイスしている…

Photo by Deepanker Verma from Pexels

第三者機関によるアルゴリズム監査の必要性

(前回からのつづき)Chiristina Colclough氏はWhy Not Labでディレクターを務め、またGlobal Partnership on AI(GPAI)の運営委員会メンバーでもある。GPAIは今年6月に米国、EUを含む15カ国のメンバーで発足し、今月初めにはブラジルを含む3カ国が新たに選出された。同氏に「Googleにアドバイスしているのはいったい誰なのだろうか?」と質問した際、彼は「アルゴリズムを評価するために独立した外部監査機関が必要」であることについて触れていた。

「新しい技術を開発するに際して、リスクの評価や人権に対する影響をきちんと評価する必要性は絶対的にあるでしょう」。

今年初めに発表された、企業が倫理原則を実践する方法について論じられたレポートでは、サイバーセキュリティー企業がバグ発見の報奨金を支払うようなスキームをAIの監査アルゴリズム・バイアスに対して第三者機関を創設することが提案されている。同論文では、学会や産業界より影響力のある著名人が60名程度選出され共同で参画している。

カリフォルニア州で先月Prop25が議題に上がり、仮に可決という結果に収まっていれば、まさに同法案がリスク評価アルゴリズムの独立した外部監査を要求していただろう。AIの公的な説明責任における実際の事例としては、アムステルダムとヘルシンキが共同でサービス提供におけるAIの用途やデータセットについて追跡可能な仕組みを導入している。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

社会的インパクト投資の現在地——クラウドクレジットが手がける「女性事業主(起業家)」支援の実例

本稿は独立系ベンチャーキャピタル、グローバル・ブレインが運営するサイト「GB Universe」に掲載された記事からの要約転載。Universe編集部と同社のSDGsおよび皆川朋子氏が共同執筆した。 日本政府が「2050年までに温室効果ガス排出量ゼロ」とする長期指標を発表し、国家単位でのSDGs(Sustainable Development Goals: 持続可能な開発目標)に対する具体的な取り…

クラウドクレジットが提供する「ペルー女性事業主向け協同組合支援ファンド1号」は社会的インパクト重視ファンドの一例。

本稿は独立系ベンチャーキャピタル、グローバル・ブレインが運営するサイト「GB Universe」掲載された記事からの要約転載。Universe編集部と同社のSDGsおよび皆川朋子氏が共同執筆した。

日本政府が「2050年までに温室効果ガス排出量ゼロ」とする長期指標を発表し、国家単位でのSDGs(Sustainable Development Goals: 持続可能な開発目標)に対する具体的な取り組みが明確になりました。これにより、より一層国内においてもSDGs・ESG投資(Environmental, social and corporate governance)への注目や、社会的課題に取り組む事業への需要が高まることが予想されています。

こうした社会課題に対する投資は、社会的インパクト投資とも呼ばれ、グローバル・ブレイン(GB)においても経済的リターンに加え、社会的リターンを評価する仕組みづくりに挑戦しています。

今回は、GBの出資先でもあり海外融資案件に特化した貸付型クラウドファンディング事業を運営するクラウドクレジットが手がける社会的インパクト投資の未来とその意義についてご紹介していきます。

歴史ある社会的インパクト投資

社会的インパクト投資の対象となるSDGsやESGと聞くと、世界情勢が比較的安定し、国際連合などのインターナショナル・オーガナイゼーションが誕生してきた近年に提唱され始めたものである、という印象があります。

実際にはこうした世界規模での社会課題への関心は1960年代には既に登場しており、同時代に提唱された「SRI(社会的責任投資)」が社会的インパクト投資の始まりともいわれています。

SRIは社会的価値観や倫理観により、投資判断が下されることから「ネガティブスクリーニング」をベースとした手法とされていました。つまり、SRIも「社会的悪」とされる企業を投資対象から外し、社会的に求められる企業へ資本の流入を進める社会的インパクト投資の概念を一部備えていると考えられます。

しかしこうした流れは、2006年に国際連合が主導して設計した「責任投資原則(Principles for Responsible Investment)」により大きく変わることとなります。これは、世界の環境(Environment)、社会(Social)、統治(Governance)の課題を従来の投資分析と意思決定のプロセスに融合させ、持続可能な金融システム構築を目指すことを掲げたもので、まさにESG投資と言われる源泉となっています。

さらに2015年にはSDGsが採択され、いよいよ本格的にあらゆる企業・個人が社会的リターンを実現すべく、各々の施策を講じはじめた、というわけです。各国の首脳陣、経済界を中心として新しい投資の考え方が議論されていった結果、誕生したのが経済的リターンとともに社会的リターンも追求していく「社会的インパクト投資」なのです。

社会的インパクト投資市場の現在地とクラウドクレジットの役割

GBが出資するクラウドクレジットは、ソーシャルレンディング型で世界各国の資金需要者(優良中堅中小企業)を選定してファンド化することで、日本の個人投資家が、気軽に1万円から融資できるオンラインプラットフォームを運営しています。

個人投資家には利回りを、資金需要者には資金調達先を多様化する手段を提供することで、通常資金が届かないような様々な取組に向けた資金提供の機会を提供します。今年10月末時点で、ファンド全体の運用残高は158億円、累計販売額は321億円、登録ID者数は4.8万人を達成し、海外貸付型クラウドファンディングにおいては国内No.1の地位を築いています。

またクラウドクレジットでは、2018年1月に初の社会的インパクト投資に重視したファンドの販売を開始しています。具体的には「ペルー金融事業者支援ファンド」・「東南アジア未電化地域支援プロジェクト」・「メキシコ女性起業家支援ファンド」などをシリーズとして販売し、2020年にはこれらのファンド残高が20億円を突破したことも公表し、多くの投資家がファンド購入を通じて金融包摂(フィナンシャル・インクルージョン)によるSDGs達成に貢献しています。

例えば貧困削減とジェンダー平等にフォーカスした社会的インパクト投資シリーズ「ペルー女性事業主向け協同組合支援ファンド」は、SDGsで掲げられている次のミッションステートメントに準じたものとなっています。

  • 「あらゆる場所で、あらゆる形態の貧困に終止符を打つ」
  • 「ジェンダーの平等を達成し、すべての女性と女児のエンパワーメントを図る」
SDGsのスローガン

ファンドの実質的な貸付先(海外資金需要者)は、ペルーにおける女性事業主グループ向け融資を行う貯蓄信用協同組合で、ペルーには商業銀行からの借入ができない女性の個人事業主が多くいますが、これをビジネスチャンスと捉え、この分野での融資を拡大してきました。女性事業主を中心に貯蓄サービスや貸付を実施することで、これらのSDGs目標への貢献が期待されています。また、13〜50人を一つのグループにまとめ、グループに対する融資を行うとともにメンバー間では相互に連帯保証を負ってもらうという仕組みにより、リスクを低減しています。

クラウドクレジットによれば社会的インパクト投資の市場規模は年々増え続け、グローバルで2015年時点で1380億ドルとされたものが、3年後の2018年には5020億ドルと3倍程度の上昇率を見せているそうです。また、国内においても2016年の337億円規模から、2018年には3440億円とおよそ10倍の成長を遂げており、市場における需要・供給が共に大きく拡大していることが分かります。

社会的リターンの「計測」は可能か

投資において経済的リターンの有無は、主にリスク/リターンという経済的なパフォーマンス指標が重要視されています。では、社会的インパクト投資における「社会的リターン」は経済的リターンと同等に指標計測が可能なのでしょうか。

ロジックモデルの運用

クラウドクレジットは、リターンの度合いをより体系的に計測するため「社会的インパクト測定」の指標の設計を、ファンドごとにロジックモデルを設定しています。具体的には、貸付先(海外資金需要者)が現行で利用しているものを含め、GIINが発表する「Impact Reporting and Investment Standards+(IRIS+:『インパクト評価のための指標カタログ』)」等に基づいて、クラウドクレジットと貸付先(海外資金需要者)で協議を行い、指標の見える化を進めています。

ベンチャーキャピタルとしての社会課題解決への取り組み

この記事に先立ってGBではソーシャルスタートアップとの取り組みについてもお伝えしてきました。社会的な要請に基づく投資活動はより一層重要性を増してきます。今後についても引き続きソーシャルスタートアップやSDGsに関するイベントや情報発信、インパクト投資やSDGs観点での協働などの活動を検討して参ります。