AWSがエンタープライズ向けジェネレーティブAIの取り組みを本格化、「Amazon Bedrock」が一般利用可能に

ジェネレーティブ AI の基盤モデルを利用できるようにすることは、企業のユースケースの複雑な要求をサポートするための始まりに過ぎない。

Amazon Web Services（AWS）は9月28日、ジェネレーティブ AI のエンタープライズアプリケーションの要件を満たすために不可欠なツール「Amazon Bedrock」の一般提供を発表した。

AWS は4月、Amazon Bedrock をプレビューサービスとして初めて導入し、クラウドプラットフォーム上で一連の基礎モデルをサービスとして提供した。その後、プレビューは7月に拡大され、「Anthropic Claude 2」と「Stability AI SDXL 1.0」モデルを含む、より多くのモデルが追加された。現在、Amazon Bedrock は、同社独自の Amazon Titan Embeddings（埋め込み）を含むさまざまなモデルをサポートしている。

AWS での一般提供へのサービス移行は、軽々しく決定されるものではない。むしろ、初期のユーザフィードバックに基づいた、厳格なテストとその後の機能強化の集大成なのだ。

Amazonのジェネレーティブ AI 担当副社長兼 GM Vasi Philomin 氏は、VentureBeat に次のように語った。

何かをプレビューでリリースし、フィードバックを得るために少数の顧客と綿密にテストするのは、私たちにとって通常のプロセスです。これらは非常に深いやり取りになるため、多くの人と開始するつもりはありません。私たちのチームは、どこを改善できるのか、他に何が欠けているのかを実際に理解するために、これらの顧客と対話する必要があります。

Amazon Bedrock はどのように改善されたのか？

一般への提供のプロセスは、サービスがエンタープライズワークロードに対して本番環境に対応できるようにするための信頼性と強化にかかっている。

AWS が Amazon Bedrock で企業を支援するために改善した多くの点の中に、規制へのコンプライアンスがある。Philomin 氏によると、このサービスが現在準拠している規制の1つは、欧州連合の GDPR（一般データ保護規則）である。

我々は企業顧客について話しており、彼らはGDPRに準拠する必要があり、それには多くの作業が必要だが、我々はそのすべてを行いました。（Philomin 氏）

コンプライアンスの一環として、企業は通常、観測可能性と監査機能も必要とする。そのため、Amazon Bedrock は一般に利用可能なサービスとして、ロギングのための Amazon CloudWatch サービスとも連携している。

コスト管理は、あらゆるサービスを企業で幅広く利用できるようにするためのもう一つの重要な要素である。結局のところ、ほとんどの組織には経理部門があり、尊重されるべき予算がある。

プロビジョンスループット機能は、AWS が9月28日のアップデートの一環として Amazon Bedrock 向けに発表した機能だ。これにより、顧客はジェネレーティブ AI モデルからの一定量のスループットに対して支払いを行い、コスト保護とパフォーマンスレベルを保証することができる。プロビジョンスループットでは、顧客は必要なモデルユニットまたはトークンの数を指定することができ、需要が急増した場合のスロットリング問題を回避できる。

Philomin 氏は、プロビジョンスループット機能により、顧客はアプリケーションのコスト上限とスループットを保証されると指摘した。

Amazon Titan Embeddings（埋め込み）がジェネレーティブ AI の精度を強化

今日の一般提供の重要な部分は、AWSが独自に構築したAmazon Titan Embeddings モデルである。

Amazon Titan Embeddings は、ジェネレーティブ AI の精度を劇的に向上させる検索拡張世代（RAG）のユースケースに役立つ。単語を入力とし、埋め込みとして知られる数学的ベクトル表現に変換することで機能する。これにより、文書やクエリを埋め込み空間に分解し、回答として使用する関連文書の断片を検索する際の精度を向上させることができる。

Philomin 氏は、Amazon Titan Embeddings が最初にプレビュー公開されたとき、最初のユーザグループから多くのフィードバックがあったとコメントした。その中で、より大きなドキュメントを扱えるように、トークンウィンドウを大きくしてほしいという要望が存在した。この変更は現在、一般に利用可能なサービスに反映されており、企業の要求に確実に応えられるようになっている。

Amazon Titan Embeddings は、Amazon Bedrock 上の他の大規模言語モデル（LLM）と組み合わせても使用されている。Philomin 氏は、Amazon Titan Embeddings は、Anthropic の Claude2 モデルと組み合わせて、知識がドキュメントとして外部に保存されるチャットボットを実装するために、一部の顧客によって使用されていると指摘した。Titan Embeddings モデルはドキュメントをベクトル空間に埋め込み、Claude2は会話機能に使用される。これによりチャットボットは、知識ソースが進化しても言語モデルの再トレーニングを必要とすることなく、質問に答えるために埋め込まれたドキュメントから関連する知識の断片を取り出すことができるのだ。