タグ キャッシュレステクノロジーの功罪

非接触時代の功罪:データはどこまで開示すべきか(6/6)

SHARE:

透明性の欠如 (前回からのつづき)競争上の理由から、レジなしテックスタートアップは一般的にシステムの技術的な詳細を明らかにすることを嫌う。だが、それは当事者である買い物客にとっては不利益となる。プラットフォームの採用や開発方法が透明にならなければ、買い物客と万引き検知機能の間に信頼を築くことは難しいだろう。 Zippinは、アルゴリズムの訓練に用いたデータについて自発的な情報をVentureBea…

透明性の欠如

(前回からのつづき)競争上の理由から、レジなしテックスタートアップは一般的にシステムの技術的な詳細を明らかにすることを嫌う。だが、それは当事者である買い物客にとっては不利益となる。プラットフォームの採用や開発方法が透明にならなければ、買い物客と万引き検知機能の間に信頼を築くことは難しいだろう。

Zippinは、アルゴリズムの訓練に用いたデータについて自発的な情報をVentureBeatに提供してくれた唯一の企業だ。同社によると、トレーニングするアルゴリズムに応じてデータとして使用したビデオクリップの数は数千から数百万に上り、トレーニングはクラウド内で実行され、店へのモデル展開はトレーニング後に行われたという。だが、同社はデータが十分に多様性を持ち偏りのないことを保証するためにどのような手順を踏んだのか、また俳優や合成データを使用したのか、エラー修正のためにアルゴリズムを継続的に再トレーニングしているのかどうかについてはコメントを控えた。

AI Guardsmanのシステムは、店員や管理者が誤検知発生時にフラグを立てることによって時間の経過とともに自身の過ちから学習する。これは正しい方向へ進むための第一歩だが、システムがどのように機能するかについて詳しい情報がなければ、偏見や監視に対する買い物客の懸念を和らげることはできないだろう。

法律事務所のFieldfisherのAI専門家であるChristopher Eastham氏は、このテクノロジーを規制するためのフレームワークを求めている。Vaakの設立者である田中遼氏もまた、客がオプトアウトできるようにするために、店に入る前に通知するべきだと主張している。

彼はCNNに次のように語った。

「政府は、店がどこで何を分析し、それをどのように利用するのか、どのくらいの期間に渡って利用するのかといった情報を開示させる規則を作るべきです」。

【via VentureBeat】 @VentureBeat

【原文】

非接触時代の功罪:無人レジが個人特定せずに「万引き」を検出する仕組み(5/6)

SHARE:

(前回からのつづき)しかし、2018年のThe New York TimesとFast Companyのインタビューでは話が異なっている。Standard Cognitionの共同設立者兼COOのMichael Suswal氏は、Standardのプラットフォームが買い物客の軌道、視線、速度を調べて、盗難を検出すると店員にテキストメッセージで警告するとTimesに語った。(StandardのWeb…

OTGのCibo ExpressはAmazonのレジなし技術「Just Walk Out」を導入した初のブランドだ

(前回からのつづき)しかし、2018年のThe New York TimesFast Companyのインタビューでは話が異なっている。Standard Cognitionの共同設立者兼COOのMichael Suswal氏は、Standardのプラットフォームが買い物客の軌道、視線、速度を調べて、盗難を検出すると店員にテキストメッセージで警告するとTimesに語った。(StandardのWebサイトのプライバシーポリシーには、生体認証識別子を収集せず、「特定の身体的特徴」に関する情報のみを収集しているとある)また、Standardが100名の俳優を雇い、サンフランシスコのデモストアで何時間にも渡って万引きやその他の行動を認識するようにアルゴリズムを訓練したとも語った。

Suswal氏はTimesにこう語った。

「私たちは立ち去る行動がどのようなものかを研究しています。万引きしようとするとき、歩幅は大きくなり、目線はドアの方へ向けられます」。

2019年にStandardが申請した特許は、同社が歩様を追跡するシステムを開発したという見解を裏付けているようだ。この文書には、一連の画像でトレーニングされたアルゴリズムが店の棚の間にある通路を移動する買い物客の身体的特徴を識別できると書かれている。このアルゴリズムは首、鼻、耳、肩、ひじ、手首、腰、足首、ひざなど19箇所の身体上のポイントの内ひとつを識別するように設計されている。

VentureBeatへのeメールによる声明の中で、Standardの広報担当者はこう述べている。

「この特許は私たちが提供するレジ機能の核となる部分、つまり個人を特定しない映像追跡システムのみに関するものです。意図の認識や万引きに関するもののために利用されることはありません。私たちは歩様の認識やその他の生体認証はしていません。ご指摘の以前のメディア記事との不一致を解消できて喜ばしく思います。大切なことは、私たちのコンピュータビジョンベースのシステムが個人を識別できないということです。買い物客がスマートフォンでチェックインすることによってのみ、私たちは支払い情報を得ることができるのです」。

サンタクララを拠点とするAiFiもまた、同社のレジなしソリューションが認識できるのは定義された店内での購買行動に含まれる「疑わしい行動」だけだと述べている。Amazonと同様に、同社は合成データを使って一連のトレーニングおよびテストデータを作成しており、顧客データは必要としない。

広報担当はVentureBeatにこう語った。

「シミュレーションでは、私たちはヘアスタイル、髪の色、服装、体型をランダムに変化させて、多様で偏りのないデータセットを確保しています。私たちはユーザーのプライバシーを尊重し、顔認識や個人を特定できる情報は用いません。ショッピングの未来を変えて、自動化され、プライバシーを尊重し、インクルーシブにすることが私たちの使命です」。

Accel Roboticsが2019年に出願した特許は、同スタートアップの万引き防止ソリューションが、個人を特定することのない匿名のタグを選択的に使用することを明示している。サーバーはカメラ映像を時系列で分析することによって動きを個人に帰属させることができ、悪意を持って棚の商品を手に取ったかどうかを推測することができる。「識別特性」が個人ごとに保存され、取得されうるのなら、買い物客の行動は複数回の来店にわたって追跡可能で、過去にその店で万引きをした人物を特定するのに利用できる。

特許にはこう書かれている。

「(このシステムは)個人が商品代金を支払わずに店を出ると万引きを検出するように設定できます。具体的にいうと、客の手元にある商品のリスト(すなわちショッピングカートの中身のリスト)が表示され、従来のレジ画面でレジ係が確認するかもしれません。レジ係はこの情報を使って、買い物客が店から何も持ち出さないか、または持ち出すすべての商品を見せ、代金を支払うことを確認します。たとえば、もしも客が2つの商品を店から持ち出していれば、その客は2つ分の商品代金を支払うべきです」。

(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

非接触時代の功罪:サブスクで「レジなし体験」を提供するTrigoのケース(4/6)

SHARE:

業界の慣習 (前回からのつづき)2018年7月に登場したTrigoは、従来の「中小規模」の実店舗型コンビニエンスストアに「レジなし体験」を提供することを目指している。高解像度の天井設置型カメラと機械学習による追跡ソフトウェアを実行する業務用「処理装置」を月額サブスクリプション制で提供する。データはこの装置からクラウド処理プロバイダに送信され、分析されてTrigoのアルゴリズムを向上させるために使用…

Trigo

業界の慣習

(前回からのつづき)2018年7月に登場したTrigoは、従来の「中小規模」の実店舗型コンビニエンスストアに「レジなし体験」を提供することを目指している。高解像度の天井設置型カメラと機械学習による追跡ソフトウェアを実行する業務用「処理装置」を月額サブスクリプション制で提供する。データはこの装置からクラウド処理プロバイダに送信され、分析されてTrigoのアルゴリズムを向上させるために使用される。

Trigoは収集したデータを匿名化し、買い物客が購入した商品のみを特定し、個人を特定することはないと主張している。また、同システムは平均99.5%の精度で購入を特定できるそうだ。だが、この製品が提供する盗難防止検出機能と、Trigoが万引き検出アルゴリズムを訓練した方法に関するVentureBeatからの質問に対して、同社はコメントを控えた。

Pandoraの共同設立者であるWill Glaser氏が設立した無人レジテックスタートアップのGrabangoも同じく、この記事に対するコメントを拒否した。Zippinによると、買い物客は支払い手順の中でチェックインする必要があり、悪意のある攻撃者が「何らかの侵入行動」をした場合のみスタッフに通知されるという。さらに、Standard Cognitionは同社のテクノロジーについて、買い物客が初めは買おうとしていた商品を棚に戻したときなどの変化を把握することができると主張しており、万引き検出機能を顧客に提供していないし、これまで提供したこともないと述べている。

CEOのJordan Fisher氏はVentureBeatにeメールで次のように伝えた。

「Standardは万引き行動を監視しませんし、これまでもしたことはありません。私たちはただ買い物客が店を出るときに請求すべき金額を知るために、人々が商品を手に取り、どこかへ置くのを追跡しているだけです。これを匿名で行っており、生体認証はしていません。

多様なデータセットで責任を持って訓練されたAI主導型システムは、理論的には偏見なく万引きを検出できるはずです。しかし、Standardはそういうことを目指す企業ではありません。このテクノロジーのレジなしという側面のみをフォーカスしています」。

(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

非接触時代の功罪:アルゴリズムが引き起こす差別の可能性(3/6)

SHARE:

(前回からのつづき)Williams氏はNBCにこう語った。 「万引きで捕まった人と、誰が万引きをするかとはイコールではありません」。 言い換えれば、店内でしつこく監視されたと感じている黒人買い物客は、買い物中に緊張しているように見えやすい。そのためにシステムが疑わしい行動として認知してしまう可能性があるのだ。 「これは誰を監視し、誰を捕まえるのかという機能であり、差別的な慣行に基づいています」。…

Photo by Skitterphoto from Pexels

(前回からのつづき)Williams氏はNBCにこう語った。

「万引きで捕まった人と、誰が万引きをするかとはイコールではありません」。

言い換えれば、店内でしつこく監視されたと感じている黒人買い物客は、買い物中に緊張しているように見えやすい。そのためにシステムが疑わしい行動として認知してしまう可能性があるのだ。

「これは誰を監視し、誰を捕まえるのかという機能であり、差別的な慣行に基づいています」。

一部のソリューションには、さまざまな身体的特徴の中でも、万引きの歩様パターン(手足の動き)を検出するように明示的に設計されているものもある。健常者の買い物客の映像でトレーニングされたアルゴリズムが、身体の不自由な買い物客を疑わしいと認識する可能性があることを考えると、この設計は潜在的な問題をはらんでいると言える。米国司法省の公民権局障害者権利課が指摘しているように、障害者の中には神経障害や精神・情緒的な障害、低血糖などによってよろめいたり発話が不明瞭になったりする人もいるが、これらの特徴が一部の地域では酩酊状態と誤解される恐れがある。

東京のスタートアップのVaakが提供する盗難防止用製品「VaakEye」は、買い物客の顔の表情、動き、手の動き、服の好み、その他100以上の特徴を監視するために100時間以上もの監視カメラ映像で訓練されたと伝えられている。日本の通信会社NTT東日本とテックスタートアップのEarth Eyesが共同参画しているAI Guardsmanは、ライブ映像から買い物客が死角を探したり、神経質に周囲を窺ったりするのを検知して「知らせて」くれる。

NTT東日本は、同社のアルゴリズムが完璧だとは主張していない。広報担当がThe Vergeに語ったところによると、商品を手に取って棚に戻しただけの問題のない客や、商品棚の補充を行う店員にフラグを立てることがあるそうだ。にもかかわらずNTT東日本は、「事前登録した人物を見つけることはできない」ため、同社のシステムは差別的ではないと主張している。

Everseenが提供するWalmart のAI・カメラベースの万引き防止技術は、昨年5月、検出率の低さから精査された。Ars Technicaとのインタビューの中で、Walmartの労働者は、Everseenに対するいちばんの心配はセルフレジでの誤検知だと述べた。このテクノロジーはたびたび罪のない行動を万引きの可能性ありとして誤認知すると従業員は感じている。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

非接触時代の功罪:行動監視と人種による偏向の実態(2/6)

SHARE:

(前回からのつづき)多くの無人レジプラットフォームは、店内での買い物客の行動を監視するために、センサー類の中でも特にカメラに依存している。カメラで撮影した映像は機械学習の分類アルゴリズムにかけられ、たとえば買い物客が商品を手に取ってカートに入れるタイミングを特定する。 2019年に開催されたAmazonの「re:MARS」カンファレンスのセッションで、Amazon GoのバイスプレジデントのDil…

(前回からのつづき)多くの無人レジプラットフォームは、店内での買い物客の行動を監視するために、センサー類の中でも特にカメラに依存している。カメラで撮影した映像は機械学習の分類アルゴリズムにかけられ、たとえば買い物客が商品を手に取ってカートに入れるタイミングを特定する。

2019年に開催されたAmazonの「re:MARS」カンファレンスのセッションで、Amazon GoのバイスプレジデントのDilip Kumar氏は、Amazonのエンジニアが商品検出漏れなどのエラーを使って機械学習モデルをトレーニングし、Goストアのレジなし体験を強化していると解説した。合成データはトレーニングデータの多様性を高め、モデルの頑健性を表面上は向上させる。このモデルは幾何学と深層学習を利用して、トランザクションが適切な顧客と関連づけられるようにする。

このアプローチの問題点は、合成データが十分に監査されていない場合、偏見が符号化され、機械学習モデルが増幅して学習してしまうかもしれないことだ。2015年、あるソフトウェアエンジニアは、Googleの写真ストレージサービスの「Googleフォト」に導入された画像認識アルゴリズムが黒人を「ゴリラ」とラベリングしていることを発見した。

最近では、Google Cloud Vision APIが、濃い肌色の人の手に握られた非接触型体温計を銃と誤認している。さらに数え切れないほどの実験が、人気の(だが問題ありの)インターネットから収集した写真データベース、「ImageNet」でトレーニングした画像分類モデルが、人種、性別、体重などに関して人間と同じような偏見を自動的に学習することを示している。

ラトガーズ大学ニューアーク校の教授兼主任のJerome Williams氏は、有色人種の買い物客の方が白人よりも日常的に万引きの疑いで呼び止められることが多いため、万引き検出アルゴリズムが結果的に有色人種を不当に標的にしてしまう可能性があるとNBCに語った。

2006年の玩具店の研究によると、中流階級の白人女性はしばしば優遇されるだけでなく、攻撃的な行動を取っても決して警察に連行されることはなかったという。さらに、最近の「Journal of Consumer Culture」に掲載された黒人買い物客の調査では、回答者の80%が買い物中に人種差別やステレオタイプを経験をしたことがあると答えた。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】

非接触時代の功罪:キャッシュレスは本当に安全か(1/6)

SHARE:

パンデミックは世界中で猛威をふるい続け、新型コロナウイルスは一部の医学専門家が当所予測していたよりもずっと長引きそうなことが明らかになりつつある。ワクチン開発の遅れ、変異株の急速な感染拡大、ソーシャルディスタンシングをめぐる政治的なレトリックなどから新型コロナウイルスはエンデミックとなる可能性が高く、私たちは生活様式を変える必要性に迫られている。 変化のひとつとして、実店舗が挙げられる。実店舗では…

Standard CognitionのAIを搭載したサンフランシスコの無人レジショップ「Standard Market」
Image Credit: Standard Cognition

パンデミックは世界中で猛威をふるい続け、新型コロナウイルスは一部の医学専門家が当所予測していたよりもずっと長引きそうなことが明らかになりつつある。ワクチン開発の遅れ、変異株の急速な感染拡大、ソーシャルディスタンシングをめぐる政治的なレトリックなどから新型コロナウイルスはエンデミックとなる可能性が高く、私たちは生活様式を変える必要性に迫られている。

変化のひとつとして、実店舗が挙げられる。実店舗ではカウンターや現金、クレジットカード、レジ袋などに接触することでウイルスが広まる恐れがあるからだ。パンデミックによってAmazon Go(店員とやりとりしなくても商品を購入することができるAmazonのチェーン店)のような無人レジテクノロジーが新たな注目を集めている。実際に、Walmart、セブンイレブン、AiFi、Standard、Grabangoなどの無人レジスタートアップは昨年から存在感を強めている。

だが、無人レジテクノロジーが標準的になれば、支払い以外の目的で使用されるリスクがある。特に万引きの検出だ。万引き検出は表面上問題ないが、差別などの欠陥から最悪の場合は誤認検知につながる恐れがあると指摘するケーススタディも行われている。(次につづく)

【via VentureBeat】 @VentureBeat

【原文】