Cloudflare、CDNエッジで生成AIを実行できる「Workers AI」を一般公開——Hugging Faceモデル14種類をサポート

SHARE:
Image credit: Cloudflare

Cloudflare は現在、より多くの開発者が Hugging Face の AI アプリケーションを同社のプラットフォームに持ち込めるようにしている。さらに同社は、サーバーレスGPU搭載の推論「Workers AI」を一般利用できるようにした。

Cloudflare と Hugging Face の連携は、約7カ月前に発表された。これは、Workers AI へのモデルのデプロイを容易にし、開発者はワンクリックで即座に配布することができる。Cloudflare の Workers AI は、テキスト生成、埋め込み(エンベッディング)、文の類似性など、14種類の Hugging Face モデルをサポートしている。

Cloudflare の CEO Mathew Prince は、声明で次のように述べた。

最近の生成 AI ブームにより、あらゆる業界の企業が AI に膨大な時間と資金を投資している。AI の本当の課題は、デモは簡単だが、本番に投入するのは信じられないほど難しいということだ。AI を搭載したアプリを構築するコストと複雑さを抽象化することで、これを解決できる。

Workers AI は、推論を実行するための最も手頃で利用しやすいソリューションの一つだ。そして、Hugging Face とCloudflare は、シンプルで手頃な価格で AI を民主化するという我々の取り組みにおいて深く連携しており、我々は開発者にモデルを選択し、AI アプリをゼロからグローバルに瞬時にスケールさせる自由と敏捷性を与えている。

Hugging Face を通じて、開発者は使用したいオープンソースモデルを選択し、「Cloudflare Workers AI にデプロイ(Deploy to Cloudflare Workers AI)」を選択すれば、即座にモデルを配布できる。これにより、モデルがすべての適切な場所で同時に受信されるため、遅延や誤った体験がなくなる。

Hugging Face の共同創業者で CTO の Julien Chaumond 氏は、次のようにコメントしている。

最も人気のあるオープンモデルを、GPU のグローバルフリートで駆動するサーバーレス API で提供することは、Hugging Faceコミュニティにとって素晴らしい提案だ。

Image credit: Cloudflare

Workers AI については、開発者は現在、ケープタウン、ダーバン、ヨハネスブルグ、ラゴス、アンマン、ブエノスアイレス、メキシコシティ、ムンバイ、ニューデリー、ソウルを含む世界150都市以上に配備された GPU にアクセスできる。Cloudflare はまた、モデルの重みをファインチューニングできるように AI を改良しており、開発者は専門分野に特化したアプリケーションを作成・展開できる。

【via VentureBeat】 @VentureBeat

【原文】

Members

BRIDGEの会員制度「Members」に登録いただくと無料で会員限定の記事が毎月10本までお読みいただけます。また、有料の「Members Plus」の方は記事が全て読めるほか、BRIDGE HOT 100などのコンテンツや会員限定のオンラインイベントにご参加いただけます。
無料で登録する