データホエール

Datawhaleのヒント

著者：Savarese、編集者： Synced

つい最近、テクノロジー業界は、ある非常に洞察力に富んだ記事に注目しました。その記事の著者は、Salesforceのチーフサイエンティストであり、スタンフォード大学のコンピュータサイエンス非常勤教授でもあるシルヴィオ・サヴァレーゼ氏です。

サヴァレーゼにはもう一つ注目すべき人物がいる。それは「AIゴッドマザー」フェイフェイ・リーの夫だ。

シルヴィオ・サヴァレーゼは、AI エージェントの将来の発展について考察し、独立したタスク実行からマルチエージェントのコラボレーション、そしてエンタープライズレベルの包括的な調整へと進化する 3 つの主要な段階を提案しました。

この記事は原文の主旨を変えずに以下のように翻訳されています。

最近、Salesforce は Agentforce のリリースにより、企業を AI 活用の新時代へと導いています。

AI の第 3 の波に突入し、AI インテリジェント エージェントの助けにより、人々は仕事においてより有能になり、より興味深く、より創造的になるでしょう。

人材採用からヘルスケアまで、AIと人間の連携は様々な業界でますます広がっています。こうした連携は、大規模な需要に迅速に対応できるだけでなく、多くの場合、純粋な手作業よりも精度の高い作業を実現します。

時間はかかりますが、インテリジェントエージェントは間違いなく、生産性と効率性の向上、戦略的な意思決定の支援など、さまざまな方法で私たちの仕事を最適化してくれるでしょう。また、全体的な仕事の満足度も向上させると私は確信しています。

一般社員から経営幹部まで、ほぼすべての企業担当者が人材を配分しながらデジタルワークフォースを統率することができます。

この時代における発展の過程において、信頼と説明責任は最も重要です。

その進化は 3 つの段階に分けられます。まず、専門のインテリジェント エージェントが独立したタスクを担当し、次にマルチエージェント システムがシームレスなコラボレーションを実現します。最後に、エンタープライズ レベルの調整システムが企業の運営方法を完全に変えます。

SalesforceのAI研究チームは、エンタープライズAIの未来を形作るという使命を担っています。次に、インテリジェントエージェントの開発に関する私たちのビジョンと、このプロセスにおいて人間が果たすべき役割についてお話しします。

AIエージェントの進化：ルールから推論へ

LLM は、テキストを理解して生成できるトレーニング済みのディープラーニング モデルです。

AIエージェントの開発は、機械学習の進歩と密接に関連しています。ロボティック・プロセス・オートメーション（RPA）などの初期の従来型のルールベースシステムは、一連のタスクを正確に完了できましたが、変更への対応において問題が発生しやすかったため、多くの技術サポートと専門家への相談が必要でした。

過去数十年にわたり、機械が情報を処理する方法は、厳格な自動化システムから、柔軟で適応性があり効率的な学習システムへと劇的に変化してきました。

今日では、Agentforce などの最新のプラットフォームによって作成されたインテリジェント エージェントは、特定の状況を理解し、新しい変更に適応し、さまざまなタスクを実行できます。

将来の開発方向はさらに有望であり、マルチエージェント推論を活用する適応型エージェントが登場するでしょう。

このインテリジェントエージェントは、周囲の環境から学習し、実用化を通じて継続的に改善し、人間、企業顧客、パートナー、サプライヤーと連携することができます。さらに、人々の生活にますます溶け込みつつある、パーソナライズ化が進むAIアシスタントとの連携も可能です。

私たちは現在、エンタープライズ AI エージェント開発の 3 つの段階に向けて動き始めたところです。

エンタープライズインテリジェントエージェントの3つの段階

音楽が単純な単旋律から複雑で美しい交響曲へと進化したのと同様に、AI エージェントも、単独で動作するものから複数のエージェントが連携して協力するものへと進化し続けています。

各ステージは前のステージを基盤として構築され、企業にとってより豊かで階層化されたインタラクションを生み出します。

フェーズ1: 単一のAIエキスパートエージェント

第一段階では、専門エージェントが特定の業界に特化し、割り当てられたタスクを卓越したパフォーマンスで完了しました。これにより、日々の重要な業務オペレーションにかつてないほどの効率性と精度がもたらされました。これらのエージェントは、エンタープライズAIアプリケーションの基盤となり、断片化されたタスクを確実かつ迅速に処理することで、部門間のワークフローを大きく変革します。

AIの最新技術を業務に活用することも可能です。例えば、最適な行動を正確に予測し、個々の顧客の好みや行動に基づいて高度にパーソナライズされた商品レコメンデーションを提供できます。さらに、顧客、サービス担当者、営業担当者（人間とインテリジェントエージェントの両方）向けに、高品質なガイダンス、マーケティングコピー、対応文書を作成することもできます。

たとえば、ビジネス分野では、インテリジェント エージェントが在庫管理とアカウント管理に革命をもたらしました。

インテリジェント エージェントは、単純な在庫チェックを行うだけでなく、複数の場所の在庫レベルをプロアクティブに監視し、季節的な需要の変化を予測し、アカウントの概要をリアルタイムで生成し、異常なパターンや潜在的な機会を特定することができます。

従来、これらのタスクを手動で分析するには数時間を要していましたが、今ではインテリジェントエージェントがより正確かつ徹底的な分析を行い、数秒で完了できます。これにより、小売顧客に、より高品質でパーソナライズされた、そして魔法のような体験を提供できます。

サービス業務においても同様の変革が起こっています。これらのインテリジェントエージェントは、基本的な請求概要の作成だけでなく、顧客とのインタラクションパターンを分析し、サービスリクエストを自動的に分類・優先順位付けすることで、顧客ニーズに関する予測的な洞察を導き出すことができます。

インテリジェントエージェントは、顧客満足度の問題やビジネス拡大の機会を示唆する可能性のある顧客行動の傾向を特定できます。これにより、サービスチームは単なる生データではなく、有用な情報を得ることができます。

これにより、カスタマーサービスは容易かつシームレスになります。エンドユーザーはサービスの存在をほとんど意識せず、多くの場合、気付く前に問題が解決されます。

金融サービス分野では、インテリジェントエージェントによって顧客サービスの効率が大幅に向上しました。

紛争が解決されると、インテリジェントエージェントは取引履歴を分析し、潜在的な不正行為を特定し、関連するセキュリティプロトコルを自動的に起動します。財務計画の策定時には、インテリジェントエージェントは市場データ、顧客の個人履歴、さまざまな経済指標を統合し、包括的な分析レポートを生成します。

これらのインテリジェント エージェントを効果的に使用することで、企業のバック オフィスの業務効率が大幅に向上し、消費者はより高度なプライベート バンキング、投資ガイダンス、資産管理サービスを体験できるようになります。

フェーズ2：複合エージェント - シームレスな協力者

このフェーズでは、企業内の専門エージェントが協力し、共通のビジネス目標に向けて取り組み始めます。

「コーディネーターエージェント」は、複数の専門エージェントを組織し、連携させる役割を担います。これは、レストランのゼネラルマネージャーが優秀な受付係、ウェイター、マネージャー、シェフ、調理担当者、配達員を組織し、全員が協力してミシュランの星を獲得できるようにすることと似ています。

複合インテリジェントエージェントは複雑なビジネスシナリオでどのように機能するのでしょうか？この顧客サービスのシナリオを見てみましょう。

常連の小売顧客が季節外れの商品を別のサイズに交換したいと考えている。この瞬間、複数のインテリジェントエージェントが舞台裏で静かに連携している。

まず、最前線のサービス担当者がお客様からの最初のお問い合わせに対応します。次に、在庫管理担当者が各拠点の製品在庫状況を確認します。同時に、物流担当者が配送オプションの計算とスケジュール設定を開始します。最後に、請求担当者がお客様のアカウント履歴と支払い方法を慎重に確認します。

最も重要な構成要素は「コーディネーターエージェント」です。コーディネーターエージェントは、他のすべてのエージェントの作業を集約し、ブランドイメージと顧客ニーズの両方に合致した、整理された効率的なレスポンスを作成します。これらのレスポンスは、フロントラインスタッフに引き継がれ、レビューと改善を経て、顧客に提供されます。

マルチエージェントアプローチが適切に実装されると、「コーディネーターエージェント」が人間のコーディネーターにサービスを提供できるようになり、AI による数多くの重要な利点がもたらされます。

• 信頼性の向上：システムは、特定の領域に特化するために、専門的で信頼性の高いエージェントを活用します。各エージェントは狭い範囲で動作するため、信頼性が向上するだけでなく、幻覚も軽減されます。
• セキュリティの強化: 分散処理アプローチを採用することで、機密データの処理が特定のインテリジェント エージェントに委任され、セキュリティが強化されます。
• 高い拡張性：エコシステムはニーズの変化に合わせてシームレスに拡張できます。組織は新しい専用エージェントを継続的に追加することで、機能を容易に拡張できます。これはおそらく最も重要な利点です。

フェーズ3：統合インテリジェントエージェント - エンタープライズコーディネーター

理想的な最終段階では、組織の境界を越えた複雑なエージェント間 (A2A) の相互作用が出現し、まったく新しいビジネス モデルが開拓されました。

従来のB2B（企業間取引）やB2C（企業対消費者）モデルに加え、B2A（企業対エージェント）、さらにはB2A2C（企業対エージェント対消費者）といった新たなインタラクション形態が登場しています。これらの新しいモデルでは、AIエージェントが業務や取引の仲介役として機能しています。

簡単なレンタカーのシナリオを見てみましょう。顧客の個人 AI エージェントがレンタル会社の商用 AI エージェントと交渉します。

これらのインテリジェントエージェント間の相互作用には、複雑なゲーム理論の遵守が求められます。そのためには、洗練された交渉スキル、特定のプロトコルの遵守、不確実性下でのリスク管理、信頼性の高い信頼検証メカニズム、そして巧みに紛争を解決する能力が求められます。

ここで、複雑なビジネス プロセスを想像してください。

サプライチェーンの最適化や顧客調整を例に挙げてみましょう。消費者であれ、企業の従業員であれ、統合AIはスマートアシスタントを提供します。このアシスタントは、複雑な調整タスクを処理し、お客様のニーズと期待に基づいて価値あるコラボレーションを促進します。

しかし、この目標を達成するために、私たち人類がやるべきことはまだたくさんあります。

複雑なインテリジェントエージェントシステムを展開するための必須条件：信頼と責任

ますます複雑化するインテリジェント エージェント システムを導入するにつれて、すべての決定は信頼と責任という 2 つの基本原則に従う必要があります。

信頼の構築

インテリジェントエージェントの時代において、信頼の意味は有害なコンテンツ、偏見、幻想を防ぐだけにとどまりません。

Salesforceの最近の調査によると、AIの進化に伴い、61%の顧客が信頼がこれまで以上に重要だと感じています。私たちは、組織が人間とAIの共生関係に深い信頼を寄せる必要がある新たな領域に足を踏み入れつつあります。

この信頼は、以下の要素に基づいています。まず、精度と境界です。AIエージェントは、精度を維持しながら、明確に定義された境界内で動作する必要があります。

自己認識は、インテリジェントエージェントにとっても同様に重要です。信頼できる同僚のように、AIエージェントは自身の能力の限界を理解し、いつ人間に助けを求めるべきかを知らなければなりません。そのためには、AIと人間のシームレスな連携を確保するための複雑なハンドオーバープロトコルが必要です。

例えば、私たちのAI研究チームは、AIエージェントが解決できない問題に遭遇した際に不確実性をマークし、助けを求めるように訓練する手法を研究しています。適切に訓練されれば、AIはいつ推測すべきでなく、いつ人間に助けを求めるべきかを理解できるようになります。

マルチエージェントシステムには、世界的に認知され、広く採用されているプロトコルも必要です。これらのプロトコルを用いることで、コーディネーションエージェントは、他の企業のエージェントと安全かつ倫理的に通信、交渉、協力し、相互利益を実現できます。この相互作用は、高速、効率的、かつ公平でなければなりません。

最後に、AI エージェントの数が増えるにつれて、セキュリティ対策も強化する必要があります。

他のテクノロジーと同様に、AIも妨害行為に利用される可能性があります。AIワームを訓練してデータを漏洩させたり、他のAIエージェントを制御して顧客の個人情報を漏洩させようとしたりするかもしれません。

保護の強化、堅牢なプライバシー管理の実装、そして継続的な監視は、信頼を維持する鍵となります。信頼が確立されて初めて、AIは単なるツールから、私たちと共に成長するビジネスパートナーへと変貌を遂げることができるのです。

説明責任を確保する

組織が 1 秒あたり数千の決定を下すことができる AI エージェントの導入を開始する場合、明確な説明責任と監視の枠組みを確立する必要があります。

こうすることで、問題が発生した場合の解決策が確保されます。そのためには包括的な計画が必要です。次に、インテリジェントエージェントの監督責任を負う管理チームが何をすべきかについて議論します。

明確な責任の連鎖：AIエージェントが重要な決定を下す際には、誰が責任を負うのか、曖昧さは一切なく明確でなければなりません。これは、AIエージェントの展開を監督する権限を持つだけでなく、問題発生時に責任を負う「AI運用責任者」などの新たな役割を設けることを意味する場合があります。

不完全、偏向、妄想、または有害な情報によって問題が発生する前に、それを特定して解決できる堅牢なシステムが必要です。

これには単なるセキュリティ チェック以上のものが含まれます。インテリジェント エージェントによる決定の継続的な監視、リアルタイムで介入する機能、完全な監査証跡のメカニズムが必要です。

研究チームは最近、検索拡張生成（RAG）において大きな進歩を遂げました。RAGはAIシステムによる情報の取得と検証方法を大幅に改善するものです。これらの新たな発見により、AIシステムを迅速に評価・調整し、提供する結果の正確性と信頼性を確保することが可能になります。

人間がインテリジェントエージェントを監視し、介入できるプロセスを開発する必要があります。これは「人間がループに参加する」という単純な概念に限定されるべきではなく、人間がいつ、どのようにインテリジェントエージェントの意思決定に介入すべきかを明確に定義するための、より複雑なフレームワークを設計する必要があります。

日常的なタスクでは、インテリジェント エージェントは完全に自律性を発揮できますが、重要な決定に直面した場合、人間の判断が依然として重要な役割を果たします。

エラーが発生した場合、対応には体系的なアプローチが必要です。これには、技術的なロールバック手順だけでなく、お客様とのコミュニケーション方法、講じるべき是正措置を明確に定義し、同様の問題の再発を防ぐための体系的な改善プロトコルを確立することも含まれます。

現在、ビジネス上の意思決定を行う自律型 AI エージェントは、責任を定義するという問題に直面しており、既存の規制環境はそれらに適していません。

規制当局と協力して適切なガバナンス構造を整備し、AI エージェントの責任を明確にし、新たな法的およびコンプライアンスの枠組みを確立する必要があります。

未来を見据えて：科学的手法と企業イノベーション

本当に効果的な AI システムを導入するには、上級管理職が長期的なビジョンを持ち、これらの技術の進歩を実際のアプリケーションに適用する必要があります。

企業におけるAI導入の成功は、導入するAIエージェントの数や導入スピードだけで決まるものではありません。重要なのは、企業のリーダーと技術専門家による綿密な計画であり、AIが既存のワークフロー、ビジネスプロセス、そして人間の働き方とシームレスに統合されることを確実にすることです。

SalesforceはエンタープライズCRM分野で豊富な経験を有し、ビジネスロジックの最適化に関する深い理解を有しています。この経験と知識をAgentforceの導入戦略に統合しました。このシステムは強力なだけでなく、信頼性が高く、顧客のビジネス部門と運用担当者の両方のニーズに責任を持って対応します。

将来、人間とAIはもはや敵対関係ではなく、それぞれの強みを活かしながら協働するようになるだろう。Agentforceのリリースにより、インテリジェントエージェントは業務効率を向上させる強力なツールとなり、これまで不可能だったタスクをチームで達成できるようになる。

この変革を始める時は今です。あらゆる画期的な実験が仮説から始まるように、あらゆるAI変革の成功はビジョンから始まり、やがて現実のものとなります。

参考文献:

https://x.com/silviocinguetta...

https://www.salesforce.com/bl...

いいね！ （3件のいいね！）↓