透明性の欠如

（前回からのつづき）競争上の理由から、レジなしテックスタートアップは一般的にシステムの技術的な詳細を明らかにすることを嫌う。だが、それは当事者である買い物客にとっては不利益となる。プラットフォームの採用や開発方法が透明にならなければ、買い物客と万引き検知機能の間に信頼を築くことは難しいだろう。

Zippinは、アルゴリズムの訓練に用いたデータについて自発的な情報をVentureBeatに提供してくれた唯一の企業だ。同社によると、トレーニングするアルゴリズムに応じてデータとして使用したビデオクリップの数は数千から数百万に上り、トレーニングはクラウド内で実行され、店へのモデル展開はトレーニング後に行われたという。だが、同社はデータが十分に多様性を持ち偏りのないことを保証するためにどのような手順を踏んだのか、また俳優や合成データを使用したのか、エラー修正のためにアルゴリズムを継続的に再トレーニングしているのかどうかについてはコメントを控えた。

AI Guardsmanのシステムは、店員や管理者が誤検知発生時にフラグを立てることによって時間の経過とともに自身の過ちから学習する。これは正しい方向へ進むための第一歩だが、システムがどのように機能するかについて詳しい情報がなければ、偏見や監視に対する買い物客の懸念を和らげることはできないだろう。

法律事務所のFieldfisherのAI専門家であるChristopher Eastham氏は、このテクノロジーを規制するためのフレームワークを求めている。Vaakの設立者である田中遼氏もまた、客がオプトアウトできるようにするために、店に入る前に通知するべきだと主張している。

彼はCNNに次のように語った。

「政府は、店がどこで何を分析し、それをどのように利用するのか、どのくらいの期間に渡って利用するのかといった情報を開示させる規則を作るべきです」。

【via VentureBeat】 @VentureBeat

【原文】