618ZXW

Horizo​​n Robotics、AIZ、ByteDance、Lingchuan Technology が上海に集まり、コンパイラ最適化の新たな進歩を探りました。

2023年、HyperAIは北京、上海、深センで4回のMeet TVMオフライン集会を開催し、 1,000人を超える経験豊富な専門家や愛好家を集め、豊かなコミュニティエコシステムを着実に構築しました。 2024年には、HyperAIはAIコンパイラ分野に注力し、業界の専門家にオープンな交流プラットフォームを提供し続け、7月に第5回Meet AI Compilerテクニカルサロンを開催しました。2024年も終わりに近づき、大規模モデル競争の熾烈な競争は続いています。AIコンパイラにはどのような新たなブレークスルーとアプリケーションが登場したのでしょうか?

12月28日、HyperAIは上海市五角場にて第6回Meet AI Compilerテクニカルサロンを開催します。このイベントは、技術共有と円卓討論の2部構成となります。

まず、Horizo​​n Robotics、北京人工知能学院、ByteDance、Lingchuan Technologyから4名のシニアエキスパートをお招きし、それぞれのアプリケーション事例と業界における知見を共有していただきます。さらに、Apache TVMのPMCである上海交通大学のFeng Siyuan博士が円卓討論会のモデレーターを務め、専門的な技術視点からゲストの皆様と刺激的な意見交換を行います。

素敵なプレゼントと軽食もご用意しております。イベントにご登録の上、「HyperAI」WeChat公式アカウントをフォローしてください。「1228 Shanghai」と返信して抽選にご応募ください。賞品は12月28日(土)にイベント会場にてオフラインでお受け取りください。ぜひご参加ください!

イベントの詳細

時間:12月28日(土)13:30~17:45

場所:上海五角場創新起業学院2階講堂(楊浦区大学路322号)

参加人数:200名(席数に限りがございますので、お早めにお申し込みください)

登録:以下のリンクをクリックして登録してください

https://hdxu.cn/p2o5

QR コードをスキャンし、「AI Compiler」というメモを追加してイベント グループに参加してください。

議題

ゲストとアジェンダ

セグメント1:ゲストスピーカー

トピック: Transformer モデルのコンパイルと展開の最適化プラクティス

概要:近年、TransformerモデルはLLM分野で目覚ましい成果を上げているだけでなく、コンピュータビジョンにも広く応用されています。自動運転のシナリオでは、Transformerモデルのコンパイルとデプロイメントの最適化は複雑なプロセスです。エンドツーエンドモデルとVLMは、エッジでのコンパイル、最適化、デプロイメントに大きな課題をもたらします。本プレゼンテーションでは、主にHorizo​​n Roboticsのこの分野における実践と経験の一部を紹介します。

このプレゼンテーションを視聴することで、次のことが分かります。

  1. ビジュアルTransformerモデルのコンパイル、最適化、展開における課題
  2. Horizo​​n RoboticsによるTransformerモデルのコンパイル最適化の探求と実践

トピック: FlagGems: 研究開発の進捗とエコシステムアプリケーションの探索

概要:バージョン2.0のリリース以来、 FlagGemsは、Zhiyuanチーム、パートナーメーカー、そしてTriton Chinaコミュニティとの緊密な連携により、演算子サポート、計算性能、コード生成、ランタイムメカニズムにおいて、研究開発において大きな進歩を遂げてきました。同時に、FlagGemsは業界の上流と下流を繋ぎ、大規模モデルのトレーニングと推論適応、マルチバックエンドチップ統合といった分野における革新的な探求を進め、多様なエコシステムにおける演算子ライブラリの応用シナリオをさらに拡大しています。

このプレゼンテーションを視聴することで、次のことが分かります。

  1. FlagGemsの最新の研究開発成果と技術進歩
  2. オペレータライブラリを大規模モデルに適応させるための革新的な実践と経験
  3. マルチバックエンドチップ統合の技術ソリューションと応用効果
  4. トリトンの中国系コミュニティと多様なエコシステムの構築における進歩

トピック:計算・メモリアクセス・通信最適化の観点から見たAIコンパイラ設計

概要: AIチップ向けコンパイラ最適化は、計算、メモリアクセス、通信という3つの主要な課題に直面しています。本レポートでは、これら3つの分野におけるAIコンパイラの設計と最適化の経験を共有します。計算の観点からは、カスタマイズされたアクセラレーションユニットの最適化、メモリアクセスの観点からは、AIチップ向けのメモリアクセスモデリングと最適化、そして通信の観点からは、計算と通信の融合における経験と進歩を共有します。

このプレゼンテーションを視聴することで、次のことが分かります。

  1. AIコンパイラ最適化に関するグローバルな視点
  2. AI チップの計算能力を最大限に活用する経験とテクニックを学びます。
  3. 分散AIコンパイラの今後の開発方向性を理解する

トピック:マルチコアNPUアーキテクチャに基づく大規模モデルコンパイルの最適化と推論加速の実践

概要:本プレゼンテーションでは、大規模モデルのコンパイル最適化と推論高速化におけるマルチコアアーキテクチャNPUの実践的な検討に焦点を当てます。Transformerなどの大規模モデルの計算特性を分析することで、タイリング戦略に基づく行列最適化、データ並列性とモデル並列性を組み合わせたスケジューリングメカニズム、そして演算子とパイプライン設計を統合した効率的な推論手法を提案します。マルチコアアーキテクチャの並列機能を活用することで、演算子分解とメモリ管理が最適化され、推論スループットとリソース利用率が大幅に向上します。

このプレゼンテーションを視聴することで、次のことが分かります。

  1. クラウドベースの大規模モデル推論チップのアーキテクチャ
  2. TransformerアーキテクチャにおけるAttentionスーパーオペレータの最適化戦略

セグメント2:円卓討論

円卓会議のテーマ:チップ、ネットワーク、ソフトウェア、アルゴリズム、エコシステムの共同開発

主催者とパートナー

HyperAIは、中国をリードするAIおよび高性能コンピューティング(HyperAI)コミュニティです。データセットの高速ダウンロード、オンラインチュートリアル、詳細な論文分析、主要カンファレンスカレンダーの統合などを提供することで、中国のデータサイエンスおよびAI業界の開発者や愛好家がAIを学び、理解し、実践できるよう支援することを目指しています。コミュニティと共に、AIの未来を築き上げていきましょう。現在、HyperAIのウェブサイトには、数千もの古典的で高品質な公開データセットとチュートリアルが掲載されており、中国で最も活発なAIコンパイラーコミュニティの一つを運営しています。

公式サイトをご覧ください: https://hyper.ai/

OpenBayesは、中国を代表する高性能コンピューティングサービスプロバイダーです。従来のソフトウェアエコシステムと機械学習モデルを次世代ヘテロジニアスチップと統合することで、産業界や大学の研究機関向けに、より高速で使いやすいデータサイエンスコンピューティング製品を提供しています。同社の製品は、数十もの大規模な産業シナリオや主要な研究機関に採用されています。

公式サイトをご覧ください: https://openbayes.com/

MLC.AIコミュニティは2022年6月に設立されました。機械学習分野の著名な若手学者であり、Apache TVMの主な発明者であるChen Tianqi氏が率いるチームは、機械学習コンパイルの主要な要素とコアコンセプトを体系的に紹介するMLCオンラインコースを開始しました

2022年11月、MLC.AIコミュニティのボランティアの共同の努力により、TVMの最初の完全な中国語ドキュメントが公開され、HyperAIウェブサイトで正常にホストされました。これにより、機械学習コンパイルに関心のある国内開発者に、新しいテクノロジーにアクセスして学習するための基本設定(ドキュメント)がさらに提供されました。

MLCオンラインコース: https://mlc.ai/

TVM 中国語ドキュメント: https://tvm.hyper.ai/

上海五角場イノベーション・起業学院は、楊浦区政府、著名な大学、業界をリードする企業、そしてイノベーションサービス機関が共同で設立した非営利の教育・サービス機関です。 「イノベーションと起業をより容易に成功させるための深いつながりを築く」という使命を掲げ、起業家と支援者を結びつけ、イノベーションと起業のための資源配分の効率を高め、創造性を促進しています。

2022年11月、五角場イノベーションアカデミーは正式にパブリックスペースをオープンし、起業家やイノベーターに800平方メートルのスペースを開放しました。アカ​​デミーは、香港中文大学上海センターや水安グループなどのパートナーと協力し、起業とイノベーションのための公共福祉ブランド「アカデミーカフェ」を立ち上げました。起業とイノベーションのための公共福祉サービスに共感するKOL、企業、社会団体を「公共福祉パートナー」として招き、起業家が集う様々な場を共同で設計しています。 「アカデミーカフェ」はこれまでに140以上の起業とイノベーションをテーマにしたイベントを開催し、3,000人以上が参加しました。

イベントサポート

アクティビティプラットフォーム: QRコードをスキャンしてアクティビティプラットフォームに登録します

QR コードをスキャンし、「AI Compiler」というメモを追加してイベント グループに参加してください。

会場のスペースに限りがあるため、200席のみのご用意となります。お席を確保するためにも、お早めにお申し込みいただくことをお勧めします。

12月28日13:30〜17:45に上海で皆様にお会いできるのを楽しみにしています!