618ZXW

PPTV 創設者 Yao Xin 氏は新たな AI ベンチャーを立ち上げており、ついに「分散推論」に取り組む人物が現れた。

今月、PPTV 創設者のYao Xin氏が再び脚光を浴び、分散型クラウド コンピューティング フォーラムを組織し、自身のキャリアの新たな一章を公開しました。

ヤオ・シン氏の2番目の起業はクラウドサービスを対象とし、AI時代のインフラ構築を目指しています。

しかし、そのアプローチはユニークです。同社は独自のデータセンターを構築したり、GPUを購入したりするのではなく、独自の方法で国内最多のノードを持つクラウドサービスプロバイダーになりました

PPIOは設立以来6年間で3回の資金調達で総額4億元を確保しており、百川智能の創業者王小川氏、迅雷の創業者程浩氏、マイクロソフト・アジュール・チャイナの元社長沈元慶氏など19人のCEOがエンジェル投資に参加した。

姚欣はインターネット動画時代のパイオニアでした。2004年、華中科技大学を中退し、起業しました。P2Pストリーミングプロトコルを発明し、YouTubeより1年早く、世界中で4億5000万人のユーザーを抱える動画プラットフォームPPTVを設立しました

PPTVはPC時代に設立され、モバイルインターネットの黎明期に急速に成長し、2012年には中国の動画ウェブサイトユーザーベースで第2位にランクされました。しかし、2014年にヤオ・シンがPPTVを売却し、世間の目から消えたように見えました。

ヤオ・シン氏が再び世間の注目を集めるようになった今、私たちは疑問を抱かずにはいられない。飽和状態に近づきつつある市場において、なぜヤオ・シン氏はクラウドサービス分野を選んだのだろうか?そして、なぜ彼女は投資家からこれほど支持されているのだろうか?

一方で、時代は英雄を生み出す。2020年、ガートナーは分散クラウドの概念を推進し始め、「分散信奉者」であるヤオ・シンに稀有な発展の機会を与えた

一方、ヒーローはチャンスを創り出すものであり、ヤオ・シンもトレーニングコンピューティングパワー事業を放棄し、分散型推論コンピューティングパワーの開発に完全に焦点を当てるという先進的な選択をし、AIアプリケーションの普及に向けた推論コンピューティングパワーの巨大な需要に賭けました。

分散コンピューティングとAIインフラストラクチャの融合

姚欣の2度目の起業を理解するには、まず次のような具体的な事例を調べることから始めることができる。

中国のトップ3小説プロモーションアプリは、クリエイター向けにAIGC(AI生成コンテンツ)画像作成機能の提供を開始し、より多くの作家と読者を惹きつけています。

AI技術によってもたらされたトラフィックの増加は確かに良いことですが、同時に運用や保守のプレッシャーも急激に高まっています。

さらに、この新機能に慣れる人が増えるにつれて、バックエンド サーバーのパフォーマンスがボトルネックになり、ピーク時の生成速度が徐々に低下しました。

かつての解決策は単純かつ粗雑なもの、つまり生産能力の拡大でした。しかし、このアプローチだけに頼るのは長期的な解決策ではありません。コストがかかるだけでなく、不確実性の高まりに直面している状況では不十分です。

PPIO の分散アーキテクチャは、特にこのシナリオと問題点を解決するために作成されました。

これは単なるテクノロジーの選択ではなく、将来の基盤を築くアーキテクチャソリューションです。

従来の集中型アーキテクチャのボトルネックを打破し、企業の運用と保守の負担を大幅に軽減するだけでなく、システムの処理効率をまったく新しいレベルに引き上げます。

PPIOのCTOであるWang Wenyu氏が、PPIOのコンピューティングパワークラウド製品を紹介します。

PPIOが提供するAI推論プラットフォームを活用することで、バックエンドサービスを個別に導入する煩雑なプロセスが不要になります。API経由でサービスを呼び出すことができるため、セルフメンテナンスの必要がなくなり、コストを40%削減できます

速度の面では、PPIO の大規模な分散コンピューティング ネットワークのおかげで、ネットワークの混雑が大幅に軽減されました。

PPIO サービスを導入した後、新型 APP の平均画像生成時間は 10 秒から 2 秒に短縮され、生産効率は 50% 向上したことがわかりました。

ヤオ・シン氏はまた、海外のAIアプリケーションが同社の推論サービスを利用すれば、シリコンバレーよりも高い総合的な費用対効果を達成できると述べた。

これは、PPIO のグローバルに分散されたクラウド サービス ネットワークのおかげで、ユーザーは近くのコンピューティング ノードを見つけて、どこにいても 20 ミリ秒の低遅延エクスペリエンスを実現できます。

Yao Xin 氏が分散推論を選択したのは偶然ではなく、長年にわたる業界に対する深い理解に基づいたものでした。

TIRIAS Researchの調査によると、AIの急速な発展に伴い、将来のコンピューティングパワー需要の構成は大きく変化し、コンピューティングパワー需要の95%が推論に、トレーニングに使われるコンピューティングパワーはわずか5%を占めるようになる。推論は徐々にAIコンピューティングの中核となるだろう

ヤオ・シンは、AI 時代のコンピューティング パワー構造の変革によってもたらされるチャンスを認識し、推論の側面に力を注ぎました。

推論コンピューティングの中核は、ユーザー要求をリアルタイムで処理することにあります。低レイテンシと高効率がその生命線です。

分散テクノロジーはまさにこの目標を達成するための最良の選択です。

PPIO は推論計算を複数のノードにグローバルに分散することで、ユーザーに対する遅延を最小限に抑えることができます。

同時に、さまざまな地域の需要変動に応じてコンピューティング リソースがインテリジェントに割り当てられ、全体的なコンピューティング効率が常に最適になるようにします。

分散推論は技術革新であるだけでなく、中小企業や開発者をコンピューティング能力の障壁から解放し、AIの世界への参入を可能にする新しいビジネスモデルでもあります。

一方、従来の大規模データセンターは、強力な処理能力を備えている一方で、ハードウェアの購入やシステムメンテナンスだけでなく、高密度化に伴う大量の放熱エネルギーが必要となるなど、非常にコストがかかります。

分散型クラウドは、小規模から中規模のデータセンターや、全国に分散されたエッジ コンピューティング ノードをスケジュールし、費用対効果の高いローカルのエネルギーおよびコンピューティング リソースを最大限に活用することで、全体的な運用コストを削減します。

もちろん、姚欣氏は「3年以内にコストを1000分の1に削減する」という期待も示しました。これを実現するには、巨大な分散コンピューティングネットワークに加え、それを支える革新的な技術がさらに必要です。

これに対処するために、Yao Xin は「サーバーレスの弾性スケジューリングと推論加速最適化」という答えを提示しました。

サーバーレス アーキテクチャは、リージョン間サービス プロセスにおける多数のノードと複雑なユーザー要求の問題を解決するために使用されます。

このアーキテクチャは、分散コンピューティング能力をインテリジェントに統合し、弾力的なスケーリングと従量課金制の価格設定を自動的に実現します。

ユーザーは、多数のユーザーの同時応答の問題を心配することなく、このプラットフォーム上で独自の画像やモデルをホストできます。また、多数のコンピューティング サーバーを個人的に管理および保守する必要もありません。

PAIO Computing Cloud Serverless製品の自動エラスティックトリガーレイテンシと単一インスタンスのコールドスタート速度

さらに、PPIO は、アルゴリズム、システム、ハードウェアの共同イノベーションを通じて、大規模言語モデルの特性に合わせた推論加速エンジンを発表しました。

エンドツーエンドの FP8 量子化、KV キャッシュ スパース圧縮アルゴリズム、および投機的サンプリング手法を活用することで、推論の加速パフォーマンスが大幅に向上し、GPU メモリ、計算能力、帯域幅の制限を打ち破り、大規模モデル推論の潜在能力をさらに高めます。

この分散型クラウド コンピューティング フォーラムは、Yao Xin 氏の 2 番目の起業における重要なマイルストーンとなります。

その背景には、ヤオ・シン氏の業界に対する独自の洞察力だけでなく、分散型クラウドとクラウド サービスの発展動向との整合性もあります。

分散型クラウドに適した時期と場所

中国のクラウドサービス分野には、Huawei、Baidu、Tencent、Alibabaなど、独自のクラウドサービス製品を持つ有名企業が多数存在します。

ただし、これらのクラウド サービスはすべて集中型のアプローチを採用しており、これが Yao Xin の分散型クラウド システムの独自性をさらに際立たせています。

しかし、ヤオ・シン氏は、分散型システムと集中型システムは対立する選択ではなく、むしろ補完的な協力モデルであると強調した。

技術的には、PPIO は集中型クラウド サービスでも使用されている Kubernetes テクノロジーに基づくクラウド ネイティブ アーキテクチャを採用しており、集中型クラウドとの標準的な相互接続と相互運用性を実現しています

ビジネス モデルの観点から見ると、ユーザーは製品がどのクラウドで実行されるかにはあまり注意を払いません。ユーザーがより重視するのは最終的なパフォーマンスです。

最終的に、どの計算方法を使用するかの選択は、特定のアプリケーション シナリオによって異なります。

競争と協力が共存する環境において、分散型クラウドの独自の利点は、集中型クラウドでは対応が難しいニーズに対応できることにあります。

新しい AI アプリケーションの普及により、大量のリアルタイム データ計算と膨大な I/O スループットが生成され、AI によってもたらされる新しいコンピューティング パワーの需要はムーアの法則を上回る形で拡大し続けています。

こうした大規模なリアルタイム コンピューティングの需要の出現により、従来の集中型コンピューティング センターでは不十分であるように思われていますが、これは本当に全体的なコンピューティング能力が不十分だからでしょうか。

答えはノーです。

統計によると、中国のコンピューティング能力の47%、つまりほぼ半分がアイドル状態にあり、十分に活用されていない。

この現象の根本的な原因は、コンピューティング能力の需要と供給のミスマッチです。データセンターやスーパーコンピューティングセンターの建設は予定より大幅に前倒しで進められていますが、データ生成場所とコンピューティングノードが離れていることが多く、結果としてコンピューティング能力が不足しているように見えます。

したがって、コンピューティング能力を「分散化」し、ネットワーク エッジに配布することによってのみ、レイテンシと大量のデータ I/O スループットの問題を解決できます。

PPIOはまさにそれを実現します。PPIOは自ら計算能力を生成するのではなく、アイドル状態の計算能力の「トランスポーター」および「コマンダー」として機能し、計算能力の空間的および時間的分布の不均一性と利用効率の低さという問題を解決します。

もちろん、姚欣氏のビジョンは現在のクラウドサービスにとどまりません。彼はコンピューティングパワーの発展に向けた3つの曲線を提示しました。最初の2つ、エッジクラウド(赤)とコンピューティングパワークラウド(緑)は、すでにほぼ完成しています。

昨年、PPIO はこれら 2 つの「曲線」に基づいて、事業ラインをさらに 2 つの事業部門に分割しました。

「第 3 の曲線」は、さまざまな組織間でのコンピューティング リソースのリアルタイム スケジューリングと自由な取引を可能にすることです。

ヤオ・シン氏は、技術的な観点から見ると、業界はすでにこのモデルを実現する能力を持っているが、業界の合意とビジネスモデルの面では、参加者の共同の努力がまだ必要だと考えている。

しかし、パブリッククラウドが最初に登場したときには人々が信じていなかったのに、その後パブリッククラウドサービスが徐々に主流になったのと同じように、この「コンピューティングパワーの共有」もコンセンサスを形成するプロセスを経ることになります。

この型破りな起業の道を選んだ理由は、ヤオ・シン氏の豊富な起業経験とテクノロジーに対する信念に由来しています。

起業家のヤオ・シン氏:分散技術を教科書に取り入れることを決意

姚欣は、大学起業家、オンラインテレビ、インターネット、投資家など、さまざまな肩書きで世間に見られています。

しかし、見落とされがちなのは、彼が技術的なスキルにおいても深い基盤を持っているということだ。

実際、ヤオ・シンは高校時代から成績優秀者だった。

全国コンピュータオリンピックで2年連続1位を獲得し、1999年に華中科技大学(旧華中理工大学)に入学した。

ヤオ・シンが分散コンピューティングの概念に触れたのは大学時代でした。彼の師である金海教授(華中科技大学教授、中国コンピュータ連合会副会長)は、この概念を中国に初めて持ち込んだ人物でした。

金海教授は、2002年から中国教育ネットワークのグリッドコンピューティング(分散コンピューティングの一種)の構築を担当し始め、2007年には仮想化とクラウドコンピューティングの研究に従事する最初の科学研究専門家の一人にもなりました。

彼は国家が提唱する「東データ西コンピューティング」やコンピューティングパワーネットワークの設計に携わり、中国の分散コンピューティング分野の第一人者です。

当時、Jin Hai 教授は、コンピューティング能力の民主化に関するビジョンを Yao Xin 氏と共有しました。

グリッド(当時の名称)が十分に分散されると、私たち一人ひとりが電気や水道水を使用するのと同じようにコンピューティング能力を使用できるようになります。いつでもどこでも、プラグを差し込んで蛇口をひねるだけでコンピューティング能力を利用できるようになります。

ジン教授の「すべての人のためのテクノロジー」というコンセプトは、ヤオ・シンに深い影響を与え、彼に起業家としての初期の願望を植え付けました。

金海教授がヤオ・シン氏に分散コンピューティングを紹介したことに加え、ヤオ・シン氏の起業家精神のもう一つの大きな原動力は、周囲の物事を観察することだった。

ヤオ・シンさんは2002年のワールドカップのときに大学に在学しており、キャンパスでサッカーの試合を観戦することが人気となった。

この間、ヤオ・シンは異常な現象を発見した。

HTTPやFTPなどの伝送プロトコルは、利用者が増えるほど速度が低下します。一方、BitTorrentなどのP2P伝送方式は、利用者が増えるほど速度が速くなります。

グリッド コンピューティングでは、多数のコンピューティング ノードを接続する必要がありますが、各コンピュータのアップリンク帯域幅を統合して分散ストレージおよび伝送ネットワークを構築し、P2P テクノロジに基づく IPTV サービスを提供します。

このアイデアがきっかけで、Yao XinはPPLive(PPTVの前身)を開発しました。当初、PPLiveはユーザーインターフェースのない、学生による初歩的なプロジェクトに過ぎませんでしたが、瞬く間に1億回以上のダウンロード数を記録しました。

PPTVの成功は、その技術的優位性に大きく依存していたことは間違いありません。当時のYoukuやTudouといった競合他社と比較すると、PPTVの動画処理コストはわずか1%でした。

その後、成功を収めたPPTVを売却した後、ヤオ・​​シンは将来の目標を再考し始めました。

彼はもはや「一人の成功」に満足せず、それを「大衆の成功」に変えたいと考え、より多くの人々の力を集めることで人生を変えるような技術革新を実現したいと考えていました。

ヤオ・シンは一時的にビデオ業界から離れていますが、分散コンピューティングに関する技術的ビジョンから決して逸脱していません

PPTV の成功の背後には、リソースの統合とコンピューティング効率の向上に関する彼の深い理解があり、これは彼が長年にわたって分散コンピューティングに注力してきた理論的基礎でもあります。

これは、分散推論の分野で実践されるテクノロジービジネスを立ち上げるという彼のその後の選択に直接影響を与えました。

姚欣氏の見解では、起業家にとって最も重要なことは、群衆に従ったり他人を真似したりすることではなく、十分な差別化と独自の競争力を持つことである

したがって、今日でも、PPIO の配信トラックの選択は、PPTV と同様に、非常に「型破り」で斬新なものに思えます。

自社で大規模なデータセンターを構築するのではなく、多数の遊休データセンターを統合して活用するというユニークなビジネスモデルです。

P2Pストリーミングから分散推論まで、Yao Xinの起業家としての道は、インターネットコンテンツプラットフォームから技術インフラストラクチャに移行したように見えますが、実際には、この2つは本質的に同じです

Yao Xin は、ネットワークの総合的な力を通じて効率を向上させてコストを削減する方法と、分散技術に基づいてコンピューティングのボトルネックの問題を解決する方法を研究してきました。

現在、彼は同じ概念を AI 推論の分野に適用し、コンピューティング能力の需要と供給の不均衡の問題の解決に重点を置いています。

現在、ヤオ・シンの野望は、単に会社を大きく強くすることではなく、コンピューターの教科書に載るような画期的な意義を持つ技術を生み出すことにある

PPIO が Jin Hai 教授を同社の技術委員会の委員長に採用したのは、この理想に基づいていました。

金海教授は同社の技術チームに詳細かつ包括的な指導を提供し、分散型クラウド技術の境界をさらに広げ、より多くのアプリケーションの実装を促進し、より多くの起業家がより少ない負担でビジネスを開始できるようにします

もう一つ

最近終了した2024年分散クラウドコンピューティングフォーラムでは、AIコンピューティングパワークラウド製品の発表に加え、PPIOはPingCAP、Zilliz、AscentStream、CSDNと提携して「パイオニアAIスタートアップアクセラレーションプログラム」も開始しました。

当社は、AI スタートアップ企業と開発者を対象に、分散コンピューティング能力、分散リレーショナル データベース、分散ベクトル データベース、分散メッセージ キュー、開発者コミュニティなどの包括的なリソースと技術サービスを提供し、スタートアップ企業が分散クラウド上で急速に成長し、革新的な成果の実現を加速できるよう支援します。

ヤオ・シン氏が分散クラウドコンピューティングフォーラムで述べたように、彼の最終的な目標は、分散クラウドを広く使用される技術標準として推進するだけでなく、継続的なイノベーションを通じてより多くの企業と開発者が AI 時代に成功できるように支援することです。

私たちは AI 時代の入り口に立っており、夢に満ちた先駆者たちが次々と現れるのを目撃しています。

当時24歳だったヤオ・シンさんと同じように、彼らに必要なのは資金や技術だけではなく、当時のジン・ハイ教授のような志を同じくする人々や先駆者からの経験や励ましでもあります。

今度は、分散システムの力を活用して次世代アプリケーションのインフラストラクチャを構築し、新時代の先駆者たちが前進できるようサポートするという使命を私たちが引き受ける番です。

「パイオニア AI スタートアップ アクセラレーター プログラム」はこちらからアクセスできます: https://www.ppio.cn/campaign/...