倫理的な問題

（前回からのつづき）Kosinski氏が行った人格特性とFacebookでのアクティビティの関係を分析した研究は、選挙コンサルティング会社のCambridge Analyticaの創設に影響を与えたほどなので異論の余地はない。彼とスタンフォードのコンピューターサイエンティストのYilun Wang氏が2017年に発表した論文では、既製のAIシステムが同性愛・異性愛の人々の写真を高い精度で区別できたと報告した。

Gay & Lesbian Alliance Against Defamation（GLAAD）やHuman Rights Campaignといった擁護団体は、この研究が「LGBTQと非LGBTQの両者にとって、安全とプライバシーを脅かす」と述べ、性的指向において議論となっている胎児期のホルモン理論に根拠を見出したと指摘している。これは、顔の外見と性的指向は初期のホルモン暴露によって決定づけられ、両者には関連性があると予測するものだ。

Todorov氏によると、Kosinski氏の研究はそのような技術を使用したいと考える政府や企業に信憑性を与える可能性があるため、「倫理的に非常に問題がある」という。彼と認知科学者のAbeba Birhane氏は、AIモデルを作成するのなら社会的、政治的、歴史的な文脈を考慮しなければならないと論じている。NeurIPS 2019の最優秀論文章を受賞した論文「Algorithmic Injustices: Towards a Relational Ethics」の中でBirhane氏は「アルゴリズムによる意思決定とアルゴリズムによる不正を取り巻く懸念には、技術的なソリューションを超えた根本的な再考が必要です」と書いている。

2018年のVoxのインタビューでは、Kosinski氏は包括的な目標が「デジタルフットプリント」を通して人々、社会的プロセス、行動を理解しようとすることだと主張した。業界や政府はすでに、彼らが開発したのと同様の顔認識アルゴリズムを使用していると述べ、プライバシーの消失について利害関係者らに警告する必要があると強調している。

Kosinski氏と共同著者らは今回の研究で次のように述べている。

「顔認識を幅広く利用することによって、プライバシーや市民の自由を脅かす大きなリスクが生まれます。他のデジタルフットプリントの多くが政治的志向や他の特性を明らかにしていますが、顔認識は対象者の同意や認識なしに使用可能です。顔の画像はたやすく（そして秘密裏に）法執行機関に撮影されたり、あるいはソーシャルネットワーク、出会い系プラットフォーム、写真共有サイト、政府のデータベースなどのデジタルまた従来のアーカイブから入手できます。たとえばFacebookやLinkedInのプロフィール画像は誰でも簡単に、同意を得たり、知らせたりしなくてもアクセスできてしまいます。顔認識技術によって、多くの点で前例のないほど脅威的なプライバシーの侵害が生まれます」。

確かに、Faceptionのような企業は顔認識を利用してテロリストや小児性愛者を見分けることができると主張している。そして中国政府は表向きは90%以上の精度で何百人もの犯罪容疑者の写真の識別に顔認識を導入している。

Os Keyes博士号候補者とワシントン大学のAI研究者は、顔認識の誤用や欠陥に注意することが大切だと認めている。その上でKeyes氏は、Kosinski氏の研究が進めているのは根本的にニセ科学だと論じている。

彼らはVentureBeat宛のeメールでこう書いている。

「同性愛の原因を（たとえば）胎児期のテストステロンが『多すぎた』あるいは『不足していた』からとする（率直に言って不気味な）進化生物学・性科学研究をあてにしすぎています。それらを論拠にしたり、彼らを支持する研究をすることは・・・どうしても戸惑いを感じます」。

【via VentureBeat】 @VentureBeat

【原文】

（前回からのつづき）Kosinski氏はプロジェクトのソースコードとデータセットは公開したが、プライバシーを理由に実際の画像の提供は拒否した。そのため、この研究のバイアスや実験の不備に対する監査が不可能になってしまった。一般的に科学に再現性の問題はつきものだ。2016年に1,500人の科学者を対象に行った調査では、70%は他の科学者の実験を少なくとも1つ以上再現しようとしたが失敗したと報告されており、AIの分野では特に深刻だった。最近のレポートによると、自然言語処理モデルが出した回答の60〜70%がベンチマークトレーニングセットの中に埋め込まれており、モデルは単純に回答を丸暗記しているだけなことが多いとしている。

Joy Buolamwini氏、Timnit Gebru博士、Helen Raynham博士、Deborah Raji氏による画期的な研究「Gender Shades」を含めた数多くの研究およびVentureBeatの公開ベンチマークデータの独自分析からも、顔認識アルゴリズムにはさまざまな偏見の疑いがあることが示されている。混乱をまねく最たるものは、明るい色の肌を好むテクノロジーとテクニックだ。これにはセピア調フィルムから低コントラストのデジタルカメラまであらゆるものが含まれている。こうした偏見から、肌の明るい人よりも暗い人に対してアルゴリズムの処理能力が下回ることになりかねない。

顔認識システムを支える技術以上に、機械学習アルゴリズムには至るところにバイアスが浸透している。ProPublicaの調査によると、犯罪予測に使われるソフトウェアは黒人へのバイアスを示す傾向がある。別の調査によると、女性には給与の高い仕事のオンライン広告が表示されることが少ない。AIによる美容コンテストは白人を好む傾向がある。タイムライン上に表示される画像を自動的にトリミングするためにTwitterが使用していたアルゴリズムでは、肌色の暗い人よりも白人の顔を表示することが選ばれた。（次につづく）

【via VentureBeat】 @VentureBeat

【原文】

トンデモ科学の応戦

（前回からのつづき）Kosinski氏と共同著者らは批判に先制攻撃をかけ、自分たちの研究が骨相学や人相学とは一線を画すものだと主張しているが、それらのすべてを否定してはいない。彼らは論文の注釈に次のように書いている。

「人相学は非科学的な研究や迷信に基づいていて、証拠の裏付けに乏しく、人種差別的なインチキ理論だとして支持されてこなかったからと言って、すべてが間違っているとは言えません。人相学者の主張の中には、偶発的に正しいものもあるかもしれません」。

Kosinski氏によるとすべてではないにしろ、頭の向き、感情の表出、年齢、性別、人種など多くの顔の特徴から政治的姿勢が明らかになるという。ヒゲやメガネから支持政党を予測する精度は「非常に低い」ものの、自由主義者は顔をカメラにまっすぐ向ける傾向があり、驚きの表情をする可能性が高い（そして、嫌悪感を見せることは少ない）と彼らは述べている。

研究者らはこう書いている。

「顔の特徴は比較的固定していると思いがちですが、短期的・長期的の両面で顔の特徴に影響を与える要因はたくさんあります。たとえば自由主義者は、より強く、心から笑う傾向があり、笑いジワができやすくなります。保守主義者は健康志向が強く、アルコールやタバコの摂取が少ない代わりに健康食を好みます。これも時間の経過とともに、肌の健康状態や顔の肉づきを変えていきます」。

研究者らは、顔の外見から刑期の長さ、職業上の成功、学業成績、選挙の当選確率、年収などの人生の道筋を予測でき、それが今度は政治的な姿勢に影響するようだと考えている。また、顔の外見と政治的姿勢、遺伝子、ホルモン、胎児期に暴露した物質には関連性があるとも推測している。

「第一印象がネガティブだと生涯にわたって収入や地位を低下させる可能性があり、それによって富の再分配や社会的不正への感受性が高くなり、政治的な姿勢が自由主義の方向へ傾いていきます。出生前後のテストステロンのレベルは顔の形に影響する上、政治的態度と相関関係があります。また、胎児期に晒されたニコチンとアルコールは、顔の形態や認知的な発達に影響します（そして政治的な姿勢と関連性をもちます）」。

（次につづく）

【via VentureBeat】 @VentureBeat

【原文】

スタンフォード大学の研究者で物議を醸しているMichal Kosinski氏の論文は、顔認識アルゴリズムによってソーシャルメディアのプロフィールから人々の政治的傾向を暴くことができると主張している。Kosinski氏と共著者は、カナダ、アメリカ、イギリスのユーザーのフェイスブックや出会い系サイトのプロフィール100万件以上のデータセットを使用して、「自由主義者と保守主義者」の顔のペアの72％において政治的指向を正しく分類するアルゴリズムを訓練したと述べている。

この研究は「人の性格や性格は外見から評価できる」というトンデモ科学的な概念である「人相学」を取り入れたものである。1911年、イタリアの人類学者Cesare Lombroso氏は、「ほぼすべての犯罪者」は「つぼ耳、太い髪、薄いヒゲ、顕著な副鼻腔、突き出た顎、広い頬骨」であると分類学を発表した。泥棒は 「小さくさまよった目」が目立ち、強姦魔は 「腫れ上がった唇とまぶた」が目立ち、殺人者は「しばしば鷹のような鼻を持ち、常に大きい」と主張したのだ。骨相学という関連分野では、精神的特徴を予測するために頭蓋骨のこぶを測定している。Institute of Electrical and Electronics Engineers（IEEE）の代表的な著者たちは、この種の顔認識は「必然的に失敗する運命にある」と述べており、強い主張は貧弱な実験結果の現れだとしている。

Kosinski氏の研究を批判しているプリンストン大学のAlexander Todorov教授も、顔認識の論文で採用されているような方法は技術的に欠陥があるとしている。Todorov教授は、何百万枚もの写真を比較するアルゴリズムが拾ったパターンは、顔の特徴とはほとんど関係がなくなる可能性が高いと指摘する。例えば、出会い系サイトに自分で投稿した写真には、顔以外の手がかりがたくさんあるはずだ。

さらに現在の心理学の研究では、成人期までには、人格はほとんどが環境の影響を受けていることがわかっている。「写真から性格を予測することは可能かもしれないが、人間の場合はせいぜい偶然よりもわずかにマシな程度」と、プロフィール画像から性格を予測することに取り組んできたペンシルバニア大学の博士研究員のDaniel Preotiuc-Pietro氏は、最近のインタビューでBusiness Insiderに語っている。

（次につづく）

【via VentureBeat】 @VentureBeat

【原文】