生成AIの「嘘」どう見破るーーAI幻覚と戦うスタートアップ「Jaxon AI」IBMと連携

SHARE:
Image credit:Jaxon AI

AIシステムがテキストのコンテンツ生成のために幻覚(訳註:生成型AIが嘘をつくこと)を発生させたとしよう。もちろん理想的な状況ではないが、必ずしも破滅的な状況でもない。しかし、もし軍事技術の一部を動かしているAIが幻覚を見た場合、その結果はより深刻なものになる可能性が高い。

そのような条件の中、Jaxon AIは最高レベルの信頼性と精度が要求される米空軍のAIシステムを構築することから始まった。

このスタートアップは現在、Domain-Specific AI Language(DSAIL)と呼ばれる、人工知能の大きな課題である大規模言語モデル(LLM)の幻覚や不正確さに対処しようとする技術で、幅広い市場に進出している。このテクノロジーは、IBMのwatsonxの基盤モデルを組み込んだもので、より信頼性の高いAIソリューションを開発するための新しいアプローチになる。

Jaxon AIのCEOであるScott Cohen(スコット・コーエン)氏は以下のように語った。

「私たちのキャッチフレーズは、AIのためのAIです。なぜなら、私たちはJaxonを使って、ユーザーがカスタムAIを作成する手助けをしているからです」。

AI幻覚のリスクを最小限に抑えるDSAILの仕組み

幻覚は、AIシステムがクエリに対して不正確な応答を生成した場合に発生する。不正確さは、不完全なトレーニングデータや検証の不足など、いくつかの異なる要因によって引き起こされる可能性がある。

DSAILのアプローチは、幻覚のリスクを軽減することを目的としている。Cohen氏は、DSAILは自然言語の入力を受け取り、それをバイナリ言語フォーマットに変換し、ブーリアン充足器のようなチェックとバランスの調整を経て、AIの応答がすべての制約を満たすことを確認してから返されると説明した。これはアプリケーションに対するAIシステムの信頼性を高めるために行われる。

幻覚を減らすために複数のベンダーが一般的に使用しているアプローチは、RAG(Retrieval Augmented Generation)である。RAGモデルでは、LLMは正確な回答を得るために知識ベースにもアクセスできる。

Cohen氏は、RAGはDSAILが幻覚問題に対処するために用いるテクニックのひとつではあるが、それはアプローチの一部に過ぎないと説明した。彼はDSAILの場合、RAGからの出力は、さらに幻覚を制限するために、結果としてユーザーに返される前にチェックを通過する必要があると指摘した。

IBM watsonxはJaxonの基礎となるビルディング・ブロックとして機能する

JaxonはAIシステムの構成要素として、 IBMのwatsonx foundationライブラリのモデルを使用している。

Cohen氏は、IBM StarCoderモデルは特にJaxon AIのコード生成ステップに使用されていると説明した。JaxonはStarCoderの機能を利用して、収集した設計と要件に基づいてAIプロジェクトの初期コードを自動生成し、カスタムAIシステム構築のためのJaxonの一段階として機能する。

StarCoder LLMは、もともとServiceNowとHugging Faceの支援を受けて5月に開始されたオープンソースの取り組みである。IBMのエコシステムエンジニアリングおよび開発者支援担当副社長であるSavio Rodrigues(サビオ・ロドリゲス)氏は、IBMはStarCoderプロジェクトの創設者の一人であると語った。彼はまた、IBMがHugging Faceと緊密に提携し、企業ユーザーにオープンモデルを提供する手助けをしているとも述べている。

明確にしておくと、IBMはwatsonxライブラリに複数のコード生成LLMツールを備えている。StarCoderには幅広い機能があるが、IBM独自のモデルは特定のユースケースに焦点を当てている。 IBMは独自のコード生成LLMを使用して、 COBOLコードの移行を支援し、 量子コンピューティング・アプリケーションを構築している。

IBMは、ソフトウェア・ベンダーのツールにwatsonxを組み込むエコシステムを構築している

生成AIとLLM技術の市場は競争が激しく、OpenAI、Microsoft、Google、Amazon Web Services(AWS)などの大手企業が参入している。IBMは、IBM Buildと呼ぶプログラムを通じて、特にJaxon AIのような開発者や独立系ソフトウェア・ベンダー(ISV)を支援しようとしている。Rodrigues氏は、IBM Buildがパートナーにwatsonへのアクセス、技術支援、市場参入支援を提供すると説明した。全体的な目標は一貫した価格設定、パフォーマンス、可用性を備えた、信頼できるAI基盤モデルを企業に提供することだ。

「われわれの顧客は、われわれがどのようにモデルを訓練し、どのようなリーガル・チェックを経ているかという観点から、IBMがAIに対してとってきたアプローチを信頼しています。(Rodrigues氏)」。

【via VentureBeat】 @VentureBeat

【原文】

BRIDGE Members

BRIDGEでは会員制度の「Members」を運営しています。登録いただくと会員限定の記事が毎月3本まで読めるほか、Discordの招待リンクをお送りしています。登録は無料で、有料会員の方は会員限定記事が全て読めるようになります(初回登録時1週間無料)。
  • 会員限定記事・毎月3本
  • コミュニティDiscord招待
無料メンバー登録