サンフランシスコ市政執行委員会、顔認証ソフトウェアの禁止に向けて投票を実施

SHARE:
14日、サンフランシスコ姿勢執行委員会で「秘密監視禁止」条例への支持を求める Aaron Peskin 委員
Image Credit: Khari Johnson / VentureBeat

サンフランシスコ市政執行委員会は14日、「秘密監視禁止」条例の投票を行い、その結果は賛成8票、反対1票であった。この条例では、顔認証ソフトウェアの使用や、顔認証ソフトウェアシステムからの情報取得が違法とみなされるようになる。市の事務局によると、2回目の審議と投票は21日の市政執行委員会で行われ、その場で条例が公式に可決または否決される。

ただ1人条例に反対したのが市政執行委員の Catherine Stefani 氏だ。同氏は、修正案では治安維持に関する同氏の質問や懸念が対応されていないと語っている。条例が可決されると、サンフランシスコは、警察を含む市の行政機関による顔認証ソフトウェアを違法とするアメリカで初めての都市となる。

条例には記載されている。

顔認証テクノロジーから得られるとされるメリットよりも、市民の権利と自由を危険にさらす恐れの方がはるかに大きいのです。このテクノロジーは人種間の不平等をさらに拡大させ、政府による継続的な監視から逃れて自由に暮らせる立場を脅かすものです。(条例記載内容の一部

条例の作成者であるAaron Peskin 委員は顔認証を「他に類を見ない危険なテクノロジー」と呼んでいる。また、中国西部のウイグル族の監視と、アメリカ自由人権協会(ACLU)が Amazon の Rekognition をテストして28人の議員が誤って犯罪者として認識された例について言及している。

Peskin 氏によると、今回の条例は、治安と監視国家への警戒のバランスを取るためのものだとしている。

治安国家でなくても治安は守れるのです。警察国家でなくとも良い治安維持はできるのです。(Peskin 氏)

市の行政法を修正することになる今回の条例では、行政機関が監視技術の使用に関する方針を作成することが求められる。また、行政機関は年に1度、監視レポートを提出して、ナンバープレートの読み取り機や、ドローン、センサー付き街路灯などのデバイスをどのように使ったかを説明する必要がある。

新しい監視テクノロジーを採用するにあたっては、市政執行委員会の承認が必要となる。新しいテクノロジーが承認されると、行政機関は「データ報告対策」を適用して「法律により保障された市民の権利と自由を保護するための対策が厳密に守られていることを、市政執行委員会と市民が確認できるようにする」必要がある。

人権やプライバシー、人種間の平等を守るための複数の団体が今回の条例を支持しており、近年サンフランシスコのベイエリアで発生している、死者を出した警察による介入についても言及している。

先月送られた、条例を支持する連判状には、ACLU of Northern California、Asian Law Alliance、Council on American Islamic Relations、Data for Black Lives、Freedom of the Press Foundation、Transgender Law Center が名を連ねている。

先月の議事運営委員会では、女性や人物の肌の色を識別できない顔認証ソフトウェアの監査について、団体メンバーの多くが言及していた。同様の批判は Amazon や Microsoftといった企業に対しても頻繁に行われている。こうした企業は過去に自社の顔認証 AI をテストしたり、法執行機関や政府機関に販売している。

今回の条例を支持している人たちの中には、地元警察だけでなく、国土安全保障省の移民税関捜査局がこうしたテクノロジーを誤って使用するのではないかという恐怖を抱いている人もいる。移民税関捜査局は、ビザや市民権、グリーンカードを持たずにアメリカに滞在している人を拘束する役割を担っている。サンフランシスコはこうした人たちにとっての安全地帯なのだ

条例では、監視テクノロジーの使用に関連して市の行政機関が市民とどう関わっていくかは明記されておらず、公聴会が必要であることだけが記載されている。

起訴を行うにあたって新しい監視テクノロジーが必要な場合、管理官に書面でその旨を説明することでサンフランシスコの保安官局と地方検事が条例の適用を免除されることについて同グループは反対している。生命を脅かすような緊急事態でも条例の適用は免除される。

前半でも触れたとおり、顔認証ソフトウェアを搭載した個人用ビデオカメラで撮影した動画や情報は、承認がないと警察と共有できないことに懸念を示して、条例に反対している人もいる。

警察と動画を共有する部分に関する修正を求めて、Stop Crime SF のメンバーから10通以上の手紙が市政執行委員に送付された。

地元住民の Peter Fortune 氏は手紙の中で次のように語っている。

近隣の住民や商業施設の多くが独自にセキュリティカメラを設置しています。犯罪者、特に車上荒らしや宅配泥棒の逮捕のために、サンフランシスコ市警察はいつでもそれらの動画記録を見ることができます。サンフランシスコ市警察を支援するのも、個人的にビデオカメラを設置している大きな理由の1つです。

Aaron Peskin 委員が「秘密監視禁止」条例を最初に提案したのは1月のことである。共同提案者には、アフリカ系アメリカ人が昔から多く住むベイビュー・ハンターズポイント(Bayview-Hunters Point)地区から選出された Shamann Walton 委員が名を連ねている。また、ラテンアメリカ系住民が昔から多く住むミッションディストリクトから選出された Hillary Ronen 委員も共同提案者に含まれている。

条例の制定に向けた動きの中で、AI システムの採用や使用に向けた独自の政策を立案しようとしている政府機関も出てきている。

アメリカの上院議員から成る超党派グループは先週、連邦規格の作成を目的とする AI 社会原則を再提出した。商務省の国立標準技術研究所(NIST)も、トランプ氏のアメリカにおける AI に関する大統領令の一環として、連邦規格の策定に向けて動き出している。

アメリカ以外では、ヨーロッパ委員会が最近 AI に関する倫理テストプログラムを制定した。また、世界経済フォーラムは今月後半に初となる世界 AI 会議を開催する。

国連と協力関係にある団体 FutureGrasp によると、193の国連加盟国のうち、国内で AI に関する政策を制定しているのはわずか33ヶ国である。

【via VentureBeat】 @VentureBeat

【原文】

----------[AD]----------