Meta（旧Facebook）は先頃、表向きは AI モデルにおける不確実性の表現と学習を容易にする確率的プログラミングシステム「Bean Machine」のリリースを発表した。Bean Machine は、初期ベータ版として提供されており、自動的な「不確実性を考慮した」学習アルゴリズムによって、モデルの観測されない特性を発見するために使用することができる。

Bean Machine を支える Meta の研究者はブログ投稿で次のように説明している。

Bean Machineは、確率分布を視覚化するための物理的な装置、つまり確率的システムの計算前の例から着想を得ています。

Bean Machine 開発チームの我々は、システムの使いやすさがその成功の基盤を形成すると信じており、PyTorch エコシステム内の宣言的哲学（declarative philosophy）を中心に Bean Machine の設計を行うように配慮している。

不確実性のモデリング

ディープラーニングのモデルは、たとえ間違いを犯したとしても、過信してしまうというのが一般的な理解だろう。認識論的不確実性（epistemic uncertainty）とは、学習データが適切でなかったためにモデルが知らないことを表すもので、一方、偶発的不確実性（aleatoric uncertainty）とは、観測の自然なランダム性から生じる不確実性を表すものである。十分な学習サンプルがあれば、エピステミックな不確実性は減少しますが、アレータリックな不確実性は、より多くのデータが提供されても減少することはない。

Bean Machine が採用している AI 技術である確率論的モデリング（probabilistic modeling）は、将来の結果の発生を予測する際に、ランダムな事象の影響を考慮することで、これらの不確実性を測定することができる。他の機械学習アプローチと比較して、確率論的モデリングは、不確実性の推定、表現力、解釈力などの利点を備えている。

これを活用するアナリストは、AI システムの予測だけでなく、他の可能性のある予測の相対的な可能性も理解することができる。また、確率的モデリングは、モデルの構造を問題の構造に一致させることを容易にする。また、特定の予測がなぜ行われたのかを解釈することができ、モデルの開発プロセスを支援することができる。

Bean Machine は、Metaの機械学習フレームワーク「PyTorch」とカスタム C++ バックエンド「Bean Machine Graph（BMG）」上に構築されており、データサイエンティストがモデルの計算を直接 Python で書き出し、BMG がモデルの宣言に基づいて予測値の可能な分布を推測する確率的モデリングの作業を行うことができる。

Bean Machine で測定される不確実性は、モデルの限界と潜在的な失敗点を明らかにするのに役立ちる。例えば、不確実性によって、住宅価格予測モデルの誤差や、新しいアプリの機能が古い機能よりも優れたパフォーマンスを発揮するかどうかを予測するために設計されたモデルの信頼度を明らかにすることができる。

不確実性の概念の重要性をさらに示すものとして、最近のハーバード大学の研究では、機械学習のバックグラウンドを持つ人とそうでない人の両方に不確実性の指標を示すと、AI 予測に対する回復力を等しくする効果があることがわかりた。AI への信頼を醸成することは、測定基準を提供するほど簡単ではないかもしれないが、落とし穴を意識することで、機械学習の限界から人々を守ることに一定の効果が期待できる。

Bean Machine は、確率分布の形で不確実性の信頼できる尺度を用いて…リッチなモデルをソースコードに直接エンコードするのは簡単で、（モデルは）ドメインと一致するので、モデル内の中間学習特性（intermediate learned properties）を問い合わせることができる。これは、モデルの作成であれ、学習戦略の高度な調整であれ、Bean Machine をシンプルかつ直感的に使えるようにするものだ。（Meta のブログ投稿）

Bean Machine は、12月上旬の時点で GitHub で公開されている。

【via VentureBeat】 @VentureBeat

【原文】