大規模モデルは正式に稼働を開始し、AI プリセールス アシスタントに変身し、IT プリセールス担当者の負担を軽減し始めています。

Inspur Informationでは、 「Yuan Xiaozhi」と呼ばれるAIアシスタントが従業員にとって貴重な資産となっている。

数百ページに及ぶ入札書類を数秒で読み取ることができるだけでなく、製品情報の Q&A、情報の比較、クエリの取得などのタスクにも優れています。

以前は手動で完了するのに数日かかっていたタスクが、わずか数分で完了できるようになりました。

さらに、モデルの微調整とアプリケーション開発の全プロセスはゼロコードで行われ、プリセールスチームがたった1人で1か月で完了できるため、作業効率が大幅に向上します。

販売前の業務は困難に満ちている

プリセールス プロフェッショナルは、IT 業界のソリューションを構築する役割を担い、幅広いスキルを必要とします。この役割を担えるのは、「3 つの頭と 6 本の腕」を備えた多才な人材だけです。

IT に関する確かな基礎知識が必要なだけでなく、優れた市場感度、素早い学習能力、強力なコミュニケーション スキルも必要です。

IT 業界では入札は販売の重要な形態であるため、プリセールス担当者は入札プロセスに多大な労力を費やす必要があります。

まず入札書類を解釈・分析し、入札書類の技術的要件を正確に理解して回答した上で、入札要件を満たす書類を作成する必要があります。

しかし、納期は非常に限られており、入札書類の作成にも多くの困難が伴うことが多い。

まず、入札書類は長くて詳細な内容が満載であるため、入札資料の分析に時間がかかり、重要な情報を見逃しやすくなります。

しかし、需要側では、入札と入札の時間枠が非常に厳しく、同時に、ビジネス ルールに従って厳密に実装する必要があり、エラーの余地は少なく、文書の内容の正確性に対する要件は極めて高くなります。

これは、営業担当者の全体的な経験と技術的スキルに大きな課題をもたらします。

同時に、会社の製品、技術ホワイトペーパー、入札書類、ソリューションなどについても十分に理解している必要があります。

しかし、これらの製品やソリューションは更新が速く、さまざまな部門に分散しているため、情報の統合と検索が新たな課題となっています。

入札書類だけでも、他のさまざまなタスクは言うまでもなく、販売前スタッフに負担をかけるのに十分であることは容易にわかります。

多くの困難に直面して、人々は販売前担当者の負担を軽減するために手作業の一部を機械に置き換えることを検討しました。

大規模モデルに基づいて開発された AI アシスタントは、長いテキストの分析と処理において独自の利点を持っています。

しかし、実際には、新たな問題がすぐに発見されました。

まず第一に、個人であれ、大型モデルであれ、プリセールスのポジションで有能になりたい人にとって、製品情報を徹底的に理解することが不可欠です。

大規模なモデルの場合、それを理解するには専用の知識ベースを構築することが有効です。

大手IT企業の事業ラインには、1,000近くの製品が含まれる場合があります。製品のイテレーションモデルからスロット数、ボードの仕様に至るまで、すべての情報が正確でなければなりません。そうすることで、大規模なモデルは、プリセールス部門が製品情報を検索するという骨の折れる作業を容易にするのです。

しかし、この情報は複雑であり、データ自体の構造が不十分であるため抽出が困難であり、専用の知識ベースの構築は容易ではありません。

そのような知識ベースがあると仮定しても、基本モデル + RAG アプローチでは職場の専門スキル要件を満たすのに不十分です。

入札前に作成する必要がある入札書類は、非常に専門的な文体と専門用語が用いられています。このモデルはQ&Aタスクにおいて一定の正解率を誇りますが、入札業務のビジネスロジックを理解していることを意味するものではありません。

この問題の解決策は微調整ですが、高品質の微調整データが大きな課題であり、開発者には大規模なモデルの微調整に関する豊富な経験が必要となり、開発サイクルが長くなり、試行錯誤のコストが高くなります。

さらに、入札書類には企業のプライバシーに関わる膨大なデータが含まれており、データの絶対的なセキュリティを確保する必要があります。そのため、公開されている大規模モデルを用いて学習・推論を行うために、データをクラウドにアップロードすることはできません。つまり、企業の大規模モデルはローカルかつプライベートな環境で展開する必要があります。

これらの要件は、複数の段階とツールと組み合わさって、そのようなモデルの開発を本質的に困難で時間のかかるものにします。

プリセールス担当者はビジネス シナリオを熟知しており、これらの問題点を熟知していますが、カスタマイズされたアプリケーション開発はおろか、対応するコード開発能力もありません。

「元小之」は販売前担当者の負担を軽減

幸いなことに、大規模なアプリケーション モデルの開発はそれほど複雑ではなくなりました。技術的な背景がなくても、要件が明確であれば、簡単な学習プロセスを経て開始できます。

Inspur Informationでは、プリセールス部門が既に大規模モデル開発プラットフォームツールを活用し、「Yuan Xiaozhi（元小智）」と呼ばれるプリセールスAIアシスタントを開発しています。これにより、プリセールス業務における問題点を一つ一つ解決し、従業員を煩雑な作業から解放しています。

「元小知」は、入札書類をワンクリックで処理し、入札書類の重要な情報を包括的かつ正確に解釈します。

「元小知」は、プロジェクトの要件に基づいて、数万語または数百ページに及ぶ入札文書を効率的に識別し、85%の精度で主要な入札情報を識別し、数秒でコアな顧客ニーズを抽出します。

従来は数日かかっていた入札書類の分析作業が数分で完了するようになり、業務担当者の作業効率が大幅に向上し、時間枠も短縮されました。

「元小知」はインテリジェントな質疑応答機能を備えており、Inspur Informationのプリセールスチーム専用の「百科事典」にもなり、製品情報の検索と専門的なコンテンツ制作を支援しています。

この機能により、販売前担当者は、対応する製品の利点、コアパラメータ、その他のサポート情報など、Inspur の幅広い製品およびソリューションに関する関連情報に迅速にアクセスして生成できるため、膨大な量の製品ファイルを 1 つ 1 つ検索するという面倒なプロセスが不要になります。

あらゆる戦いにおいて、自分自身と敵を知ることが勝利の鍵となります。自社の製品システムに加え、類似製品を理解することは、ターゲットを絞った戦略を策定し、競争で優位に立つために不可欠です。

コア入札情報については、「元小知」はオンライン検索機能を使用して類似製品を照会できるため、販売前担当者は製品情報を迅速に理解でき、分析時間を少なくとも半分に節約し、販売前入札プロセスを3〜5倍高速化できます。

さらに、オンライン検索は必要なときにのみ実行され、企業データベースから分離されているため、データのセキュリティが確保されます。

「Yuan Xiaozhi」の背後には、Inspur Information のエンタープライズ ビッグデータ モデル開発プラットフォームであるYuanBrain Enterprise Intelligence EPAI (Enterprise Platform of AI) があります。

データ処理ツールは、構造化データ (テーブルなど) を自動的に解析し、標準形式の知識ベース エントリに変換できます。また、非構造化データ (プレーンテキスト情報など) の場合、MetaBrain Enterprise Intelligence EPAI は、有用な情報を自動的に抽出し、効率的に保存できます。

Inspur Informationのプリセールスチームは、YuanBrain Enterprise Intelligence EPAIを活用し、データの収集、整理、クリーニング、インデックス作成を自動化しました。1,500件を超えるビジネス文書、企業製品情報、ソリューションファイル（PDF、DOC、DOC、XLSなど、様々な形式）からデータを抽出し、8つの事業分野にわたる販売中の全製品に関するナレッジベースを構築しました。

同時に、RAG テクノロジーを効果的に統合し、複雑な企業知識を大規模なモデルに変換することに成功し、「最も強力なプラグイン」となっています。

大規模モデルを微調整するために、YuanBrain Enterprise Intelligence EPAI は、多様で複雑、かつ大規模な入札書類、製品情報、業界レポートから微調整データを自動的に抽出して生成できるフルチェーンのデータ ガバナンス ツールも提供します。

YuanBrain Enterprise Intelligence EPAI プラットフォームの評価モデルを活用することで、各微調整データに自動的にスコアが付けられ、低品質のデータが排除され、フォーマットフィルタリングによって微調整データの品質がさらに向上し、データの選別と処理にかかる時間とコストが削減されます。

このプロセスは複数回繰り返され、最終的に数十万点の高品質な微調整データポイントが得られました。YuanBrain Enterprise Intelligence EPAIプラットフォームのゼロコード微調整ツールを用いてモデルの微調整を行いました。複数回の反復を経て、モデルの専門的な機能が向上し、ビジネスニーズを満たす専用の大規模モデルが構築されました。

EPAIは多様なアプリケーション開発ツールも提供しており、コードなしでローカルアプリケーションを迅速に開発できます。プラットフォームは様々なパラメータの設定と変更をサポートし、API呼び出しやチャットページダイアログなど、複数のインタラクション方法を提供しているため、すぐに使用できます。

一方、EPAI とそれを使用して構築された大規模モデル アプリケーションは完全にローカルに展開でき、データのセキュリティを確保するためのさまざまなセキュリティ テクノロジが備わっています。

自分だけの「袁暁志」を作ろう

「元小志」はInspur Informationの社内アプリケーションですが、他の企業も、その基盤となるYuan Brain Enterprise Intelligence EPAIが提供するデータ処理ツール、ゼロコード微調整ツール、ナレッジベース検索ツールを活用して、独自の「元小志」を構築できます。

さらに、YuanBrain Enterprise Intelligence EPAI プラットフォームは、大規模モデルの実装を加速するための効果的なツールであり、企業の大規模モデルの実装のためのより完全なソリューションを提供します。

YuanBrain Enterprise Intelligence EPAI プラットフォームは、数億の基本知識データエントリを提供するほか、自動データ処理ツールも含まれており、ユーザーが業界や専門データを整理し、高品質の微調整データと業界/企業の知識ベースを生成して、企業専用のデータ資産を作成するのに役立ちます。

高品質な基礎データ、業界データ、企業データをサポートすることで、大規模モデルによって生成されるコンテンツの正確性と信頼性が保証され、大規模モデルの実装における最大の問題点である錯覚問題が大幅に軽減されます。

同時に、 RAGテクノロジーと組み合わせることで、YuanBrain Enterprise Intelligence EPAIは、企業の知識ベースの更新頻度が高い一方で、大規模なモデルの微調整に時間がかかり、頻度が低いという矛盾を解決し、モデルが最新の知識をタイムリーに処理する能力を獲得できるようにします。

一方、EPAI は、業界の知識に応じて数千億のパラメータを持つモデルを迅速に再学習するための効率的な微調整ツールも提供し、モデルが数百万のトークンを持つ長いドキュメントを処理する能力を持つことを可能にし、ウィンドウの長さが不十分な問題を解決し、大規模なドメインモデルを迅速に構築します。

さらに、YuanBrain Enterprise EPAIは、CPUや各種GPU、そして様々な主流のオープンソースおよびクローズドソースモデルなど、多様なコンピューティングパワーをサポートしています。迅速な適応性と低い移行コストにより、企業に豊富なモデルとコンピューティングパワーの選択肢を提供します。

さらに、 YuanBrain Enterprise Intelligence EPAIは、企業ユーザーの最大の懸念事項であるデータセキュリティに対して強固な保護を提供します。アクセス制御、データ暗号化、コンテンツレビューといった様々な技術的手段を通じて、データとモデルのセキュリティを確保し、プライバシー情報の漏洩を防止します。

「元小知」は、Inspur Informationが示した素晴らしい事例です。「元小知」を通して、その背後にあるYuanBrain Enterprise Intelligence EPAIプラットフォームの強力な機能を見ることができます。

時間のかかる入札書類の分析から面倒な製品情報の検索、専門的な入札書類の作成まで、これまで販売前担当者の頭を悩ませていたこれらの問題を、効率的かつ正確に解決できるようになりました。

EPAI のような企業全体のモデル開発プラットフォームの助けにより、技術的なバックグラウンドを持たないプリセールス チームでも、独自のニーズを満たす AI アシスタントを迅速に構築でき、技術的な障壁が大幅に軽減されます。

MetaBrain Enterprise Intelligence EPAI により、大規模モデルの実装が現実のものとなったと言えます。