Google Brain、Intel、OpenAIおよび米国・欧州の研究機関における研究者は、AIにおける倫理原則を実践的なものに移行させるための手段として「toolbox」と呼ばれる論文を公開した。同キットには、バグ発見に対する報奨金のようにAIのバイアス発見時にも同様の報奨金を支払うといったアイデアが含まれている。

このアイデアは、AIが社会的信頼ならびに社会的幸福のために利用されることを保証するものとして提案される。著者は、AIバイアス発見に対してもバウンティープログラムを導入することで今まで以上に開発者が対策を意識するようになると述べる。

論文は「Toward Trustworthy AI Development」と呼ばれ、AIの欠陥や脆弱性発見の仕組み、また独利する第三者機関による監査と政府政策を結びつけて市場の統制を図る手法も推奨されている。このAIバイアスに対するバウンティープログラムは、2018年の段階で同論文の共同執筆者JB Rubinovitz氏が最初に提案したもの。

同様に、Googleは同社に対するセキュリティーバグ発見者に対し2100万ドルの支払いを実施、さらにバグバウンティープラットフォームのHackerOneやBugcrowdはここ数か月で資金調達を実施している。

今回発表された論文では、AI倫理原則を実践的なものにするための10個の提案がなされている。近年、GoogleやOpenAIさらには米軍など80以上の団体がAI倫理原則に対し言及をしているが、論文では「（倫理原則は）AIから有益性の高い効果を確実に得るための最初の一歩に過ぎない」とし、「既存の倫理原則は責任の伴うAI開発を確実に実現するためには不十分すぎる」と述べている。

以下は、同論文内で述べられる提言の例だ。

• AIインシデントをコミュニティーとして共有し、中央集権型のデータベースで管理するべき
• AI開発におけるプロセスの監査状況・情報を追尾可能なシステムを整備するべき
• コマーシャルなAIシステムにとって代わる、オープンソースの代替案を提供するべき
• ハードウェアの拡張や県商工率拡大のため、研究機関への政府補助金を増やすべき
• 近年開発が進むプライバシー保護を重視したAIのh支援をするべき（ex. 連合学習、差分プライバシー、暗号コンピューテーションなど）

AIシステムが健全に発展すれば、既存システムが抱える人種や性別への偏見を大幅に改善することへ繋がる。例えば、警察機関による顔認証システムの誤認やアフリカ系アメリカ人間における医療の劣悪化などが挙げられる。また、最も直近の例にはCOVID-19に伴い米国司法省がPATTERNというリスク管理ツールを用いて囚人を人種的に区別したことに批判が集まっている。

今年2月には世界最大のエンジニア組織の一つであるIEEE標準化協会は、「Earth-friendly AI」へのシフトや、オンライン空間における子供の保護、社会的幸福度測定のための標準をめぐるホワイトペーパーをリリースしている、

【via Venture Beat】

【原文】

GoogleはAI（機械学習）を活用して迅速に局地気象予測をしたいと考えている。同社は論文と一連のブログ記事で、人工衛星の画像を使って「ほぼ瞬時に」高解像度の予測を行うAIシステム（平均して、およそ1kmの解像度でレイテンシーはわずか5～10分）について詳しく説明している。研究チームによると開発の初期段階にも関わらず、従来モデルより優れた性能を持っているという。

このシステムはデータ駆動型で物理学に依存しない気象モデリングを採用しており、事前情報を取り入れるのではなく、気象例のみによって近似する大気物理学を学習する。これを支えるのが畳み込みニューラルネットワークで、天候パターンの入力画像を取り込み、それを新しい出力画像に変換する。

Googleの研究者らが説明しているように、畳み込みネットワークは、各層が数学演算の集合である一連の層から構成される。この場合はU-Netと呼ばれ、各レイヤーは通過する画像の解像度を下げる符号化フェーズで配置される。別個の復号化フェーズは、符号化フェーズ中に生成された低次元表現を拡大する。

U-Netへの入力には、所定の時間における一連の観測のマルチスペクトル衛星画像毎に1チャンネルが含まれる。たとえば、1時間に10個の衛星画像が収集され、各画像が10個の波長で撮影された場合、画像入力は100個のチャンネルを有する。

初期作業として、エンジニアリングチームは2017年から2019年の期間を4週間毎に分割した米国の歴史的観測データを用いてモデルをトレーニングし、その一部を評価用に確保した。チームはモデル性能を次の3つのベースラインと比較した。米国海洋大気庁（NOAA）の数値予測モデル「High Resolution Rapid Refresh（HRRR）」（1時間の全累積表面予測）、連続する画像から動く物体を分析するオプティカルフロー・アルゴリズム、そして、将来の各地の降水量が現在と同じであると仮定したパーシスタンス・モデルである。

研究者らの報告によると、自社システムの精度は総じて3つのモデル全てに勝っていたものの、予測範囲が約5～6時間に達した時点でHRRRが性能を上回り始めたという。しかし、HRRRのレイテンシーは自社システムのレイテンシーよりも1～3時間、あるいはそれ以上に長く時間がかかることを指摘している。

HRRRで使用されている数値モデルは、フル3D物理モデルを使用しているため、長期的な予測をより正確に行うことができます。雲の形成は2D画像からは観測が難しく、「機械学習」方法で対流動向を学習するのは困難です。

研究者らは続けて語った。

短期予測に適した弊社機械学習モデルと長期予測に適したHRRR、これら2つのシステムを組み合わせることで、全体的に見て、より優れた成果を上げることができる可能性があります。

研究者らは、機械学習が3D観測に直接適応できるよう、今後の研究に委ねている。

もちろん、AIを使って天気や自然現象、災害を予測しているのはGoogleだけではない。昨年初めにはIBMは2016年に買収した、気象予報およびIT企業のThe Weather Companyが開発した新しい天気予報システムをローンチした。このシステムは高精度な世界各地の天気予報を提供する。Facebookの研究者らは、衛星画像を分析して火災や洪水によって被災した地域の被害状況の程度を把握する方法を開発した。また、スタンフォード大学の地球物理学科の科学者らは、歴史的・連続的なデータから一連の地震信号を分離し特定することができる、Cnn-Rnn地震探知機（CRED）と呼ばれるシステムを使って実験を行った。

【via VentureBeat】 @VentureBeat

【原文】