Google CEO、AIに関する新ガイドラインで「無人兵器への転用を禁止する」と明言

SHARE:
sundar-pichai-google-at-d11
Google Android チーフ Sundar Pichai 氏
Image Credit: Dylan Tweney/VentureBeat

Google は本日(6月7日)、人工知能(AI)の作成に関するガイドラインを公表し、無人兵器の製造、および人間に危害を及ぼす恐れのある分野への AI 利用を禁止する方針を示した。このガイドラインが登場したのは、Google がアメリカ国防省と交わしたドローン映像の解析に関する契約の更新をしないと発表してから、わずか数日後のことである。

自らを AI ファースト企業と名乗り、Kaggle や TensorFlow といった人気オープンソースを所有し、著名な研究者を多数抱える Google は AI 分野においてトップクラスの影響力を誇っている。

CEO の Sundar Pichai 氏は、ブログで以下のように述べている。

兵器のために AI を開発するつもりはありません。しかし、政府や軍との連携は継続し、サイバーセキュリティや訓練、軍の採用活動、退役軍人のヘルスケア、そして捜索や救助活動など他の様々な分野で AI を活用していきます。

また、 ブログ上で AI を作成する上で考慮すべき基本方針、今後 Google が推進しない AI 活用について詳細に説明している。無人兵器開発の禁止だけでなく、人間に危害を加えることを主目的とした AI、そして「国際的に認められた規範に反する監視用情報収集技術」を開発しないよう尽力していくという。

Google で作られた AI は、科学的に卓越した水準の維持、人々への説明責任、安全性のテスト、そしてバイアス助長の防止に努める必要があると、Pichai 氏は述べた。

新ガイドラインが制定される前、Google の AI チーフである Jeff Dean 氏と3,000人以上の従業員が、無人兵器製造への参加を一切止めるよう Google に強く求め、請願書にサインをしていた。伝えられるところによると、国防省が立ち上げた Project Maven への関与に抗議し、従業員十数人が Google を退職したという。

請願書は Project Maven からの脱退を要請しており、それができなければ、一般市民の信頼確保に尽力している最中、Google のブランド力および人材確保の競争力が「取り返しがつかなくなるほど」低下すると警告していた。

論争を巻き起こす恐れがあると察知した Google Cloud の主任研究員 Fei-Fei Li 氏は昨年秋、幹部らに向けた e メールで次のように語ったという。

Maven との関わりを公に言及するのを考慮すると、わが社は AI についての言及をどんなことがあっても避けるべきです。1番ではないにしても、AI の兵器化は非常にセンシティブな話題のうちの1つでなのです。

なお、この e メールは New York Times が入手している

Pichai 氏が主張したアメリカ軍との業務提携継続は、Joint Enterprise Defense Infrastructure (JEDI)と呼ばれる国防クラウドの獲得を今でも狙っているという表れかもしれない。この案件は10年契約で、規模が100億米ドルに達するため、Amazon や Google など大手テクノロジー企業から注目を集めている。

The Intercept によると、「Project Mavenへの参入は、何十億米ドルにも及ぶ米政府との契約に直結すると、Google 防衛部門の営業社員が確信している」といった内容も、社内メモで明らかになっている。

当初、従業員にはわずか900万米ドルの案件だと伝えられていたが、国防省と契約を結ぶと、年間最大2億5,000万米ドルの利益をもたらすと Google は考えているようだ。

Google が Project Maven に参加しているというニュースは、3月に初めて報じられた。また Google に限らず、IBM などの他社も参加に向けて取り組んでいる。先週(5月第5週)、国防省は同プロジェクトを拡大する意向を示し、Joint Artificial Intelligence Center を開設する計画を発表した。

無人兵器をめぐり従業員から反発を受けたのは Google だけではない。韓国でも4月、同国のトップ大学の1つである KAIST で、50人以上の研究者がいわゆる AI 兵器の研究所に対し、ボイコットしたことがあった。

【via VentureBeat】 @VentureBeat

【原文】

----------[AD]----------