本稿は日本マイクロソフトが運営するスタートアッププログラム「Microsoft for Startups Founders Hub」による寄稿転載。同プログラムでは参加を希望するスタートアップを随時募集している

Microsoftは5月21〜23日の3日間、米国・シアトルで開発者向けの年次イベント「Microsoft Build 2024」（以下、Build）を開催しました。このイベントの内容を振り返る「Microsoft Build Japan for Startups – Recap Day」（以下、Recap）が6月12日、マネーフォワードと日本マイクロソフトの共催で東京・田町で行われ、現地参加者からエンジニアに向けて、AIを中心に現地で発表された技術やイベントの感想が語られました。

エンジニアが見た「Copilot Studio」「Azure AI Studio」による開発最前線

最初に登壇したマネーフォワード ビジネスカンパニー プロダクトAIソリューション部の横山豪氏からは、エンジニア視点での「Copilot Studio」によるローコード開発、「Azure AI Studio」を使ったLLMOps（大規模言語モデル運用）による開発についての説明がありました。

横山氏はMicrosoftの開発ソリューションのうち、「今すぐプロダクトに取り入れられる選択肢」として、Copilot Studioによるローコード開発を挙げ、現地で実際に試してみた方法を紹介しました。

プロダクトのヘルプページを参照して回答するチャットボットを、ほんの一瞬で作るデモを見せてもらったので、自分でも少し試してみました。初めてで迷いながらでも、プロダクトへの埋め込み作業を含めて1時間ほどで作成できました。（横山さん）

また、より柔軟な処理の埋め込みが可能な方法として、LLMアプリ開発のためのツール群「Azure AI Studio」を使った開発を紹介。LLMのアプリ開発の「アイデア出し／探索」「開発」「運用」の各フェーズで数々の有用なツールが発表されていたといいます。

横山氏は、アイデア出し／探索と開発の各フェーズでAzure AI Studioを実際に動かしてみた例を説明。今回のイベントで発表された小規模言語モデル（SLM）「Phi-3」の新モデル「Phi-3-Vision」に、写真の説明をさせた様子などが紹介されました。

また、同じく今回のイベントで発表されたプロンプト作成・管理ツール「Prompty」や、LLM開発でよく行われる取得したデータの前処理や取得結果を成形する後処理などの処理フロー開発を補助する「プロンプトフロー」についても説明がありました。

横山氏がAzure AI Studioで最も注目したのは、「評価」機能だといいます。Azure AI Studio上では、Similarity（予測された回答と実際にユーザーが定義した正しい回答との類似性）、Coherence（一貫性）、Fluency（流暢さ）、Groundedness（参照した情報に基づいているかどうか）を指標として評価を行えます。

Copilot Studioはローコードによる爆速開発や自社のプラグインとしての提供、Azure AI Studioはより細かなチューニングや評価、分析といった観点で、自身でも使い分けて利用していきたいと思っています（横山さん）

進化するCopilotとプロンプトエンジニアリングの変化

続いて登壇したギブリー AIソリューション部 執行役員の長目拓也氏からは、これからの時代に求められるプロンプトエンジニアリングについての解説がありました。

長目氏は、MicrosoftがCopilotを「マルチターンで会話ができるエージェント機能を持ち、複雑な認知機能を要するタスクの手助けができるソフトウェア」と定義していると説明。複雑な認知機能はAzure AI Studio、マルチターンの会話はCopilot Studio、タスクレベルのアシストは「Microsoft 365」、業務フローのオーケストレーション（統合管理・制御）は「Power Platform」が担うことになるだろうと述べています。

これまでのAIは何かを検索し、検索したデータから何かを提案することまでで、タスクの実行まではしてくれませんでした。将来的には、複数のエージェントがPC上で連携し、メールの受信からレビュー、返信までを自動で行ったり、データ分析の指示に応じて適切な処理を行ったりするようになるでしょう。（長目さん）

今後、個人のタスクはCopilot for Microsoft 365、複数ステップのタスクではCopilot Studio、専門的なスキル・知識が必要な場合は頭脳を開発するためにAzure AI Studioと、要件に合わせて最適なAIソリューションを使い分けていくことになるだろうと解説した長目氏。対話型AIから精度の高いアウトプットを得るためには、プロンプトの与え方や解答例の提示方法など、今後のプロンプトエンジニアリングでも学習すべき要素は多いと述べています。

明確に言えるのは、単純な一問一答型のAI活用はCopilot for Microsoft 365で十分可能だということ。しかし、データ集計や複雑な業務タスクになると、段階的な出力の生成やSQLでのデータ取得、RAG（LLMによる生成に外部の独自情報を組み合わせ、回答精度を向上させる技術）での情報引用など、さまざまな技術を組み合わせるエンジニアリングが求められます。

プロンプトエンジニアリングのスキルは今後も、AIを活用した業務最適化をする「作り手」に求められる重要なスキルとして、磨き込む余地があります。（長目さん）

また今後は、日常のツールやデバイスにAIのインターフェースが組み込まれていくと長目氏はいいます。

AIの活用レベルに応じて、一般のユーザーにはチャットボット的な使い方、プロンプトエンジニアには外部ナレッジとの最適化、AIエンジニアにはAIの構築と汎用性の向上、高速なレスポンスの実現など、それぞれ求められるスキルが異なります。これらのスキルを適切に育成していくことが重要です。（長目さん）

Build参加者が注目した最新のAI技術と今後必要になるスキルとは

最後に行われたパネルディスカッションには、ACES取締役の與島仙太郎氏、ワークスアプリケーションズ開発部スペシャリストの山本起也氏、ユーザベースSaaS事業執行役員PdMの河野文弥氏が登壇。ギブリー取締役／Givery AI Lab Chief Product Ownerの新田章太氏がモデレーターを務め、Build現地参加者の立場からAIについての対話が交わされました。

まずはMicrosoft Buildで気になったことや面白いと思ったテクノロジーについて、それぞれが紹介。東京大学松尾研究室発のAIスタートアップ・ACESの與島氏は、「Microsoft Fabric」というデータ統合・処理・可視化ツールに注目していました。

Fabricはさまざまなクラウド環境で動作し、オンプレミスのデータをシームレスに扱える点で印象的です。企業がデータを真の意味で資産として活用するには、このような基盤整備が非常に重要で、Fabricの登場によって、データが資産となる世界に一歩近づいたと感じました。（與島さん）

大企業向けERPパッケージシステム開発のワークスアプリケーションズで、生産管理システムの開発を担当する山本氏は、SLM「Phi-3」の新モデル発表に注目していたとのこと。

ソフトウェア開発では、業務に合わせた開発が求められますが、SLMは各業務にフィットしたモデルを提供できる可能性があります。また、オンプレミスでの利用が可能な点も魅力の1つだと思います。クラウドではなく、閉じた環境でのみ使用したいというお客様も多くいらっしゃるので、そのようなお客様へのソリューションとしてSLMは非常に有用だと考えています。（山本さん）

モデレーターの新田氏から、Azure AI StudioのモデルカタログにAI開発を気軽に始められるような膨大なモデルが用意され、ソフトウェアエンジニアでもAIエンジニアリングに取り組みやすくなっていることが紹介されると、ユーザベースでSaaSプロダクトを担当する河野氏も、次のように話していました。

エンジニアリングはもちろん重要ですが、単に「使ってみよう」というレベルであれば、プロダクトマネジャー主導でも、ほぼハンズオフで対応できる状態になっています。（河野さん）

また今後の技術の変化・進化に応じてエンジニアが求められるスキルについて、それぞれ以下のように語っていました。

開発をディレクションする立場から言えば、生成AIが組み込まれたシステムの品質保証やQAプロセスをどう構築するかは今後、より重要になると思います。今までのテストと異なり、入力に対する出力結果が揺らぐ状態の中で、いかにテストを実行していくか。AIを使ったマルチエージェントでの検証も重要ですし、一方で人間が説明責任を果たすべきポイントもあるため、その点を考慮した開発プロセスの構築は非常に大切なポイントです。（河野さん）

ソフトウェアエンジニアとしてはまず大前提として、業務を理解していることが重要です。その上で、どのテクノロジーを適用するかは、業務を理解している開発者が選択すべきです。顧客が生成AIを使いたいと言っても、その業務に対して必ずしも生成AIが最適とは限りません。さまざまなソリューションがある中で、業務とテクノロジーをある程度理解した上で、適切な選択をすることがソフトウェア開発には求められます。（山本さん）

エンタープライズ企業には、長年の運用で蓄積された膨大なデータがあります。また、マルチモーダルな入力が可能になれば、これまでデータ化されていなかった領域もデータ化できます。こうしたデータを適切に処理し、価値につなげるデータエンジニアリングのスキルは、ソフトウェアエンジニアリングやAIエンジニアリングと並んで重要になってくると考えています。

また、実際の業務で役立てるためには、業務理解に基づいたデータの整理や、複数のデータ群の参照、ナレッジグラフ（構造化データモデルを活用した知識ベース）の構築、複数回のヒアリングフローの生成など、業務に役立つかたちで最後の最後まで届ける技術が必要です。このラストワンマイル、ツーマイルのデータエンジニアリングを実現する力を、ソフトウェアエンジニアやAIエンジニアがもう1つの強みとして持てば、キャリアに生かせるのではないかと思います。（與島さん）