スケーリング則の減速による技術進化

2024年のNeurIPS会議において、イリヤ・スツケヴェル氏は人工知能の発展に関する一連の挑戦的な見解を発表し、特にスケーリング則に焦点を当てました。「既存の事前学習方法は終焉を迎えるだろう」。これは技術の自然な進化であるだけでなく、現在の「力ずく」アプローチに対する根本的な疑問を投げかけるものとなるかもしれません。

イリヤ氏は、事前学習済みモデルの限界について論じ、AIシステムは人間の思考プロセスにより近い推論能力を開発する必要があると予測しました。彼は、現在の限界を克服し、AIの能力を継続的に向上させるには、新たな学習方法を見つけなければならないと強調しました。これは、単一の言語モダリティに基づく大規模モデルの能力が限界に近づいていることを意味します。既存のオープンソースアプローチの分析に基づくと、AGIを求める企業は、複数のモダリティと推論プロセスに焦点を移す必要があります。

ビジネス界が人工知能企業を好むというパラダイムシフトが起こり始めている。

CB Insightsの「2024年第3四半期 グローバルAI投資・資金調達レポート」によると、世界のAI関連投資案件数は前四半期比24%増加したものの、資金調達額は29%減少しました。これは主に、10億ドルを超える「メガディール」の件数が77%減少したことによるものです。レポートは、この減少は、市場が中小規模で高い潜在能力を持つスタートアップ企業を選好する傾向に変化していることを反映しており、投資家は革新的な技術とスケーラブルなビジネスモデルを持つ企業に注目していることを示しています。

Syncedは、AI専門メディアおよび業界サービスプラットフォームとして、2017年にAIランキング「Synced Machine Intelligence Awards」を創設しました。その後、AIの飛躍的な発展に伴い、Syncedが毎年選出するこの賞は、徐々に業界のトレンドセッターの一つへと成長しました。中でも、Syncedが2024年に選出した「大規模モデル向け最も有望なスタートアップ企業トップ10」は、強力な技術革新力と優れたチーム、そして既に大規模モデルをリリース済み、あるいは充実した大規模モデルの研究開発能力を持つスタートアップ企業を表彰することを目的としています。

その中で、「大規模モデルにおける最も有望なスタートアップ企業」のリストで第 1 位にランクされている Bayes Computing は、OpenBayes と呼ばれる製品を持っています。これはおそらく中国で最も人気のある GPU コンピューティング システムの一つであり、17 万人を超える研究者が登録しており、100 を超えるプライベート クラスター展開顧客がいます。

2024年第3四半期、マルチモーダル大規模モデルへのアップグレードの潮流を受け、OpenBayesは、クラスターアーキテクチャ、コンパイラ、モデル構造などの分野における複数の革新と技術に基づくマルチモーダルモデル「Bayes Mini-Computation」を発表しました。これは、高度な視覚理解技術と言語生成技術を組み合わせ、静止画像や動画など、複数の形式のデータを同時に処理・分析できます。

モデル性能に関しては、OpenBayesが近年蓄積してきたコンパイラ技術の専門知識により、ベイズ計算はNVIDIA、ARM、そして様々な国産チップ上でネイティブに実行可能であり、高い計算精度と効率性を維持しています。このモデルはMME-Realworldなどのベンチマークにおいて優れた結果を達成しており、上位にランクインする数少ないスタートアップ企業の一つとなっています。

*MME-RealWorldは、現在までに知られている中で最大の完全手動アノテーション付きベンチマークであり、平均2,000×1,500ピクセルの高解像度画像を13,000枚以上収録しています。中国の実世界の画像が多く含まれているため、評価タスクは従来のベンチマークよりも困難になっています。

これを基に、OpenBayesベイズコンピューティングはエンタープライズ顧客を支援し、10社以上のプライベート導入ユーザーに効率的で信頼性の高い大規模モデルサービスを提供しています。このマルチモーダルモデルは、衛星リモートセンシング、医用画像処理、法務・金融、文書・表翻訳といった実稼働シナリオにおいて既に導入実績があります。

例えば、中国科学院のある研究所では、OpenBayesコンピューティングが、研究所の高性能コンピューティングクラスターを利用する100人以上の研究者やエンジニアに、AI+HPCコンピューティングの包括的なエクスペリエンスを提供しました。工学研究者は、単一のコンピューティングシステムを通じて、さまざまなHPCアプリケーションとAIコンピューティングフレームワークをシームレスに接続できます。統一されたデータフロープロセスを通じて、工学分野の計算結果をAIのベストプラクティスとシームレスに統合できるため、多くの工学分野におけるAI研究の効率が向上します。

特筆すべきは、2024年11月28日、OpenBayesが36Krによって「WISE2024 Business King’s Most Commercially Promising Companies of the Year」に選出されたことです。今回、Machine Heartによって「大規模モデルにおける最も有望なスタートアップ企業トップ10」に選出されたことは、同社の高い成長ポテンシャルを証明しています。

人工知能技術の実用化という観点から見ると、17万人の登録研究者と100社を超える民間クラスター導入顧客を擁するOpenBayesは、同社の革新的な技術とソリューションを実装するための最適なチャネルです。清華大学、北京大学、北京郵電大学、天津大学、上海交通大学、中国科学院といった一流研究機関に加え、招商局集団、中国南方電力網、遼寧港湾集団、広東省エネルギー集団といった有力企業も含まれています。OpenBayesの商業的可能性は既に初期検証済みですが、期待通りに実現できるかどうかはまだ検証に時間が必要です。