企業と顧客の間で、AIに対する信頼に大差があると判明〜Salesforce調査報告 - BRIDGE（ブリッジ）テクノロジー＆スタートアップ情報

業種を問わず、あらゆる規模の企業がワークフローに大規模言語モデル（LLM）を導入する動きを見せている。

しかし、Salesforce の新しい調査によると、このいわゆる競争は、できるだけ早くジェネレーティブ AI を構築するために、顧客との「信頼のギャップ」を犠牲にしている可能性があることがわかった。同社が2023年5月3日から7月14日の間に収集したデータをまとめたレポート「第6回 State of the Connected Customer（コネクテッドカスタマーの最新事情）」は、25カ国の1万4,000人以上の消費者と企業バイヤーを対象に調査を実施した。それによると、顧客やバイヤーは一般的に、より良い体験のための AI の使用に前向きであるにもかかわらず、多数の人々が、企業が倫理的に AI を使用することをまだ信用していないことがわかった。

この調査結果は、AI を導入する企業が顧客に最高の AI 体験を提供し、ビジネスを成長させ続けるために取り組むべき大きな課題を浮き彫りにしている。

AI にとって信頼とは何か

信頼という概念は一見単純に見えるが、実際には非常に複雑で多面的なものである。例えば、人はある企業の製品の品質は信頼しても、持続可能性への取り組みは信頼しないかもしれない。同様に、自分のデータを保護してくれる企業を信用しないかもしれない。

AI にとって信頼とは、システムが個人の権利、プライバシー、無差別といった特定の基本的価値観に関して明確に定義されたガイドラインを遵守する倫理原則に根ざしたものである。 Salesforce の調査によると、問題はここにあるようだ。

調査対象となった14,000人の回答者のうち76％が、企業が自社の製品やサービスについて正直な主張をすることを信頼していると答えたが、50％近くが、企業が倫理的に AI を使用することを信頼していないと主張した。

彼らは複数の懸念を強調したが、彼らが報告した最も顕著な課題は、透明性の欠如と、80％以上が要求している AI の出力を検証するループ内の人間が関与していないことだった。回答者のわずか37％が、AI が人間と同じくらい正確な回答を提供すると実際に信頼していると答えた。

その他の懸念事項としては、データセキュリティのリスク、バイアスの可能性（例えば、システムが性別を差別する可能性）、社会への予期せぬ影響などが挙げられた。

ビジネスバイヤーの自信は依然強い

調査回答者のうち、企業バイヤーは消費者よりもAIに対して楽観的な見方を示し、その73％が、より良い体験のために企業がこの技術を使用することに前向きであると回答した。対照的に、消費者の51％が同じ見解を示したに過ぎなかった。

ここで興味深いのは、数秒のうちに新しいコンテンツを生み出すことができるジェネレーティブ AI が登場した2022年以降、一般的なセンチメントがまだ低下しているようだということだ。昨年、ビジネスバイヤーの82％、消費者の65％が、より良い体験のためのAIの使用に前向きであった、とSalesforceは述べている。

特にベンダー側では、顧客エンゲージメントの最前線にいる専門家（IT、マーケティングから営業、サービスチームまで）の大半が、ジェネレーティブ AI は自社が顧客により良いサービスを提供するのに役立つと回答しており、楽観的な見方は依然として高い。

企業は何ができるのか

企業は AI の導入を止めることはできないが（結局のところ、今日のダイナミックな環境において適切な存在であり続けなければならない）、この調査では、いくつかの重要なステップを踏むことで、消費者の信頼を勝ち取り、シフトに賛同してもらうことができることがわかった。

一つ目は、前述したように、AI のアウトプットの透明性と人間による検証をより高いレベルで確保することだ。調査対象となった顧客の半数以上が、これによって信頼が高まると回答している。さらに、回答者の49%は、企業は AI がエンゲージメントに適用される場所や方法（オプトアウトの機会など）をよりコントロールできるようにすることに注力すべきであると回答し、39%は第三者による倫理審査を求め、36%は政府による監視を求めている。

その他、AI 導入のための業界標準、AI活用の改善方法に関する顧客からのフィードバックの募集、多様なデータセットでのトレーニング、基礎となるアルゴリズムの一般公開などが提案された。

Salesforce コマースクラウド担当 SVP 兼 GM Michael Affronti 氏は、プレスリリースで次のように述べている。