ニューヨーク州、学校での顔認識システムの使用を禁止、その問題点とは

SHARE:
Image credit: Pixabay

ニューヨーク州議会は7月22日、2022年まで学校での顔認識やその他の生体認証の使用を一時的に禁止することを決定した。ロックポート学区による顔認識システムのローンチを受けたもので、学校での顔認識技術の使用を明示的に規制したものとしては米国で初となる。

ロックポート学区は1月、約5,000人の生徒が在籍する幼稚園から高校までのすべての施設で顔認識システムを採用した。このシステムはカナダ拠点のSN Technologiesのソフト「Aegis」を利用して140万米ドルで制作されたもので、擁護派によると、ウォッチリストに登録された危険な(または望ましくない)人物を検出・アラート送信して生徒の安全を守る。さらに10種類の拳銃も検知することができるという。

ロックポート学区のプライバシーポリシーによると、ウォッチリストに生徒は含まれない。生徒以外で、性犯罪者や裁判所命令により立ち入りを禁止されている者、あるいは学区の最高責任者であるMichelle Bradley氏がデータベースへの追加を認めた人物のみとなっている。

だが、生徒を監視したり、人々の顔に関する機密情報が漏れる恐れがあり、学区は安全を保てるのかという批判も生じている。この法案の提出者の1人、ニューヨーク州議員のMonica Wallace氏は次のように述べている。

学校での顔認識技術の使用を許可すれば、州から数百万米ドルが費やされることになります。プライバシーの侵害や誤認識などといったリスクに対して信頼性、正確性、価値が優るものかどうかは非常に疑問です。

この法案はまた、ニューヨーク州教育局に対し、学校における生体認証の問題について調査することと、規制を作ることを求めている。

ニューヨーク市民自由連合は1カ月前に、顔認識システムに反対する親に代わってロックポート学区に対する訴訟を起こした。同連合の教育政策センター副所長であるStefanie Coyle氏はこう述べている。

ニューヨーク州全域の学校が、黒色・褐色人種の生徒が警察によって取り締まられ“school-to-prison pipeline(学校から刑務所への直通パイプライン)”へ送られてしまう問題について認知しはじめています。これは重要なことです。顔認識の不正確さは悪名高いですが、女性や有色人種の識別は特にそうです。子どもたちは成長するにつれて外観が急速に変化するので、精度はさらに疑わしいです。誤検知は法執行機関でのやりとりがトラウマとなったり、授業時間の喪失、懲戒処分、場合によっては犯罪歴につながる恐れがあります。

この他にも教育機関での顔認識システムの使用は親、学生、卒業生、コミュニティ、議員からの反発を受けている。コロラド大学の教授が軍の対テロ計画のために公共の歩道で何千人もの学生や通行人らをひそかに撮影したことが明らかになり、メディアは炎上した

カリフォルニア大学サンディエゴ校の研究者は、学生の表情から熱心さのレベルを推定する研究を行ったことを認めている。そして昨年、カリフォルニア大学ロサンゼルス校は、キャンパスのセキュリティに関わるポリシーの一環として、監視のための顔認識ソフトの使用を公然と提案した

ボストン拠点のNPO、Fight for the Futureは、著作権法、オンラインプライバシー、インターネット検閲に関する訴訟を起こしているが、1月、Students for Sensible Drug Policyと協力して米国の大学内における顔認識技術の使用を禁止するために取り組んでいると発表した。まずは草の根運動としてウェブサイトを開設し、学生のためのツールキットを立ち上げた。

顔認識には問題があると考える専門家は多い。 Association for Computing Machinery(ACM)とAmerican Civil Liberties Union(ACLU)は、あらゆる種類の顔認識技術に対して一時禁止を求め続けている。サンフランシスコ、オークランド、ボストン、その他5つのマサチューセッツ州のコミュニティは、警察による顔認識技術の使用を禁止している。また、Black Lives Matter運動以降、AmazonIBMMicrosoftなどの企業が顔認識製品の販売を中止または終了した。

Gender ShadesプロジェクトとNational Institute of Standards and Technology(NIST)が測定したベンチマークによれば、顔認識技術には人種や性別によるバイアスが見られ、単一の性に当てはまらない人々に対しては不十分であることが判明した。また、顔認識プログラムは極めて不正確であり、96%の確率で誤認識が起こりうるとしている。

※本稿は提携するVentureBeat記事の抄訳です

【via VentureBeat】 @VentureBeat

【原文】

----------[AD]----------