非接触時代の功罪:アルゴリズムが引き起こす差別の可能性(3/6)

SHARE:
Photo by Skitterphoto from Pexels

(前回からのつづき)Williams氏はNBCにこう語った。

「万引きで捕まった人と、誰が万引きをするかとはイコールではありません」。

言い換えれば、店内でしつこく監視されたと感じている黒人買い物客は、買い物中に緊張しているように見えやすい。そのためにシステムが疑わしい行動として認知してしまう可能性があるのだ。

「これは誰を監視し、誰を捕まえるのかという機能であり、差別的な慣行に基づいています」。

一部のソリューションには、さまざまな身体的特徴の中でも、万引きの歩様パターン(手足の動き)を検出するように明示的に設計されているものもある。健常者の買い物客の映像でトレーニングされたアルゴリズムが、身体の不自由な買い物客を疑わしいと認識する可能性があることを考えると、この設計は潜在的な問題をはらんでいると言える。米国司法省の公民権局障害者権利課が指摘しているように、障害者の中には神経障害や精神・情緒的な障害、低血糖などによってよろめいたり発話が不明瞭になったりする人もいるが、これらの特徴が一部の地域では酩酊状態と誤解される恐れがある。

東京のスタートアップのVaakが提供する盗難防止用製品「VaakEye」は、買い物客の顔の表情、動き、手の動き、服の好み、その他100以上の特徴を監視するために100時間以上もの監視カメラ映像で訓練されたと伝えられている。日本の通信会社NTT東日本とテックスタートアップのEarth Eyesが共同参画しているAI Guardsmanは、ライブ映像から買い物客が死角を探したり、神経質に周囲を窺ったりするのを検知して「知らせて」くれる。

NTT東日本は、同社のアルゴリズムが完璧だとは主張していない。広報担当がThe Vergeに語ったところによると、商品を手に取って棚に戻しただけの問題のない客や、商品棚の補充を行う店員にフラグを立てることがあるそうだ。にもかかわらずNTT東日本は、「事前登録した人物を見つけることはできない」ため、同社のシステムは差別的ではないと主張している。

Everseenが提供するWalmart のAI・カメラベースの万引き防止技術は、昨年5月、検出率の低さから精査された。Ars Technicaとのインタビューの中で、Walmartの労働者は、Everseenに対するいちばんの心配はセルフレジでの誤検知だと述べた。このテクノロジーはたびたび罪のない行動を万引きの可能性ありとして誤認知すると従業員は感じている。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

12月3日開催のTokyo Meetupに濱渦氏参加決定!参加者募集中

BRIDGE Members

BRIDGEが運営するメンバー向けイベント「Tokyo Meetup」では新サービスの紹介やノウハウ共有などを通じて、スタートアップと読者のみなさんが繋がる場所を提供いたします。メンバー登録は無料です。
  • BRIDGE Canvasの購読
  • メンバー向けDiscordご招待
  • BRIDGE Tokyoなどイベントご招待
無料メンバー登録