618ZXW

クロードのチームは、清華大学出身の物理学の天才、ヤオ・シュンユを迎え入れることができて大喜びです!二人とも現在、大型模型製作に熱心に取り組んでいます。

清華大学物理学部の特別賞を受賞した伝説的な人物である姚舜宇氏は、Anthropic のClaude 氏のチームに加わり、正式に大規模モデリングに専念することになった。

興味深いことに、Yao Shunyu という別の人物も今年OpenAIに加わりました。

間違えないでください。前者は物理学を専攻する姚俊宇(ヤオ・シュンユ)で、後者はコンピュータサイエンスを専攻する姚俊宇(ヤオ・シュンユ)です (冗談です!)

今回アントロピックに加わった姚俊宇氏は、学部時代に凝縮物質物理学の分野で画期的な貢献を果たしており、以前からかなり有名でした。

具体的には、非エルミート系の位相バンド理論を世界で初めて発表し、関連する現象を正確に予測しました。

さらに、彼は2つの新しい物理的概念を定義し、その両方が世界のトップ物理学ジャーナルであるPhys. Rev. Lett.に掲載されました。

この研究は非常に価値があり、211大学の准教授からも次のような評価が寄せられました。

私たちの教授でさえ、姚俊宇の現在の学部レベルの物理学を超えていません。

姚俊宇さんは清華大学で学士号を取得した後、スタンフォード大学に進学し博士号を取得しました。

LinkedIn のプロフィールから判断すると、彼が今年卒業した後、2 つの大きな変化があったようです。カリフォルニア大学バークレー校で数か月間ポスドク研究員として過ごし、その後正式にAnthropicに入社したのです。

今年8月にOpenAIに加わった姚俊宇(ヤオ・シュンユ)氏も清華大学出身です。彼は姚クラスのトップ学生であり、共同委員会の委員長を務めています(ラッパーとしても活動しています)。

物理学を研究する姚舜宇と同様に、姚クラスの一人である姚舜宇も科学研究に多大な貢献をしてきました。

  • 思考の樹: LLM 学習者が繰り返し考えることを奨励し、推論能力を大幅に向上させます。
  • SWE-bench : 大規模なモデル能力評価データセット。
  • SWE-agent : オープンソースの AI プログラマー。

ほぼすべての研究がこの分野に大きな波紋を巻き起こしたと言っても過言ではありません。そして、それらの研究はすべて大規模なモデルを中心に展開されていることは明らかです。

現在、清華大学卒業生で、ともに姚俊宇という名の二人が、AIビッグデータモデルをテーマに会合を行っている。

では、この2人の姚俊宇の他に、清華大学の若い世代で大型モデリングに熱心に取り組んでいる人は誰でしょうか?

清華大学では他に誰が大規模モデルに取り組んでいますか?

この話題といえば、馬騰宇陳丹奇についても触れなければなりません。

2人は2008年に清華大学姚クラスの同級生となり、後にノーベル賞の「先駆け」として知られるスローン賞を受賞した。

馬騰宇博士はプリンストン大学で学んでおり、指導教官は理論計算機科学者でゲーデル賞を2度受賞したサンジーヴ・アローラ教授です。

博士号を取得後、馬騰宇はMIT、ハーバード大学、スタンフォード大学といった一流大学から助教授のオファーを受けたが、最終的にスタンフォード大学を選んだ。

馬騰宇氏は昨年末、大規模モデルスタートアップ「Voyage AI」の設立を正式に発表し、チームを率いてこれまでで最高の組み込みモデルを作成するほか、特定の分野や企業に特化したカスタマイズモデルも提供していくと明らかにした。

スタンフォード人工知能研究所所長のクリストファー・マニング教授や、AI分野の著名な中国人学者フェイフェイ・リー氏を含む3人の教授が、Voyage AIの学術顧問を務めています。

陳丹奇氏は清華大学姚学院で学部課程を修了し、2018年にスタンフォード大学で自然言語処理(NLP)を専攻し博士号を取得しました。その後、プリンストン大学コンピュータサイエンス学部の助教授、プリンストン言語・知能プロジェクトの副ディレクターに就任し、プリンストンNLPグループの共同リーダーを務めています。

彼の個人ホームページには、「最近は主に大型モデルの開発に取り組んでいる」と書かれており、彼が研究しているテーマには次のようなものがある。

  • 検索が次世代モデルで重要な役割を果たし、現実感、適応性、解釈可能性、信頼性を向上させる方法について説明します。
  • 大規模モデルの低コストのトレーニングと展開、トレーニング方法の改善、データ管理、モデル圧縮、下流のタスク適応の最適化。
  • 私はまた、経験的にも理論的にも、現在の大規模モデルの能力と限界についての理解を真に深める仕事にも興味があります。

この二人以外にも、産業界や学界には大型模型の開発に携わるヤオクラスの卒業生が大勢います。

大人気の大型模型ネイティブアプリ「あらら!大型模型に囲まれちゃった!」とその続編「大型模型を壊しちゃった!」は、ヤオクラスの優秀な学生が率いるチームによって開発されました。

このゲームの開発者であるファン・ハオチアン氏は、Megviiの6人目の従業員です。IOI金メダル獲得、清華大学ヤオクラスへの無試験合格、高校2年生でのインターンシップ修了など、伝説的な業績から天才児と称されました。現在、彼はMegvii Technologyの研究部門ゼネラルマネージャーを務め、Google Scholarのh指数32を誇る業界リーダーです。

マスク氏とAIの最初の研究成果であるTensor Programs VIにも、共著者の中にヤオクラスの卒業生が名を連ねている。

Tensor Programs VIは、xAIの創設メンバーであり、Shing-Tung Yauの教え子でもあるGreg Yangによる、以前のTensor Programsシリーズの続編です。この論文は、「無限深層ネットワークの学習方法」に焦点を当てています。

テンソルプログラムに関する成果は既にGPT-4に適用されていると言われています。この論文を説明するため、ヤング氏自身もXでライブ配信を行い、自身の知見を共有しました。

共著者のディンリー・ユー氏は、清華大学ヤオクラスを卒業し学士号を取得し、プリンストン大学でコンピュータサイエンスの博士号を取得する予定です。

他にもたくさんあります...

さて、物理学者の Yao Shunyu 氏が Anthropic に加わったという話題に戻ると、議論する価値のある別の問題があります。それは、なぜ変更するのかということです。

Anthropic 創設者: 物理学者は AI を非常に速く学習します。

物理学から AI への移行は、実は学術界では「伝統的なスキル」です。

結局のところ、「人工知能のゴッドマザー」と称されるフェイフェイ・リーは、物理学からコンピュータービジョンの研究に転向した人物の代表的な例だ。

プリンストン大学で物理学を学んでいたとき、彼女は宇宙に関する根本的な疑問は物理学だけではなく、生命や知性についても問われていることに気づきました。

今回姚俊宇氏が参加したチーム「Anthrophic AI」には、物理​​学のバックグラウンドを持つ研究者が多数在籍している。

創業者のダリオ・アモデイ氏自身も物理学者であり、スタンフォード大学で物理学の学士号、プリンストン大学で生物物理学の博士号を取得しています。彼はフェイフェイ・リー氏の後輩と言えるでしょう。

転機は博士号取得後3年目に訪れました。ダリオ・アモデイは百度(バイドゥ)に入社し、アンドリュー・ンと共に音声認識と自然言語処理における課題解決に取り組みました。それ以来、彼はAIの道を歩み続けています。

確かに、Anthrophic AI は採用の際に物理学のバックグラウンドを持つ人材を優先しており、創設者は昨年 8 月の番組でその理由を次のように説明しました。

...その理由の一つは、物理学者の学習能力が非常に高いことです。物理学の博士号を持つ人を雇えば、ほとんどの人が機械学習をすぐに習得し、貢献することができます。

私たちの創設者の何人か、ジャレッド・カプラン、サム・マッキャンドリッシュ、そして私自身は物理学者です。現在、チームには30~40人の物理学者がいます。

機械学習はまだそれほど奥深い分野ではないので、誰でもすぐに始めることができます。

お隣のOpenAIにも、北京大学物理学科卒業生のJing Li氏がSoraチームに所属するなど、物理学のバックグラウンドを持つ才能豊かな人材が多数在籍している。

Soraのような動画生成モデルは、「物理世界のシミュレーター」とも定義されています。その背後にある拡散モデルは、物理学における熱力学に着想を得ています。

...

しかし、今年、「物理学」と「人工知能」という言葉の間に最も密接なつながりがあるのは、授与されたばかりのノーベル物理学賞でしょう。

授賞式において、ノーベル委員会は特に次のように言及しました。

物理学は機械学習の開発にツールを提供してきました。そして今、機械学習は物理学の研究に役立っています。

たとえば、機械学習はヒッグス粒子の発見などノーベル賞受賞分野で膨大な量のデータを処理するために長年使用されてきました。また、重力波測定におけるノイズの低減や太陽系外惑星の探索にも使用できます。

近年では、タンパク質の機能を決定する分子構造の計算や、高効率太陽電池に使用できるより性能の高い新材料の設計など、分子や物質の特性の計算や予測にもこの技術が活用され始めています。

科学が現在の状態にまで発展するにつれ、分野間の統合の傾向がますます顕著になるだろうとしか言えません。

明るい面を見れば、能力さえあれば、何かを学んでも時代の変化に対応できなくなるわけではありません。

最悪の場合、他の分野の人がいつでも侵入して挑戦してくる可能性があります。

最後に、NVIDIA の科学者 Jim Fan 氏がまとめた、AI テクノロジーと関連する物理原理の対応関係をまとめた表を示します。

参考リンク:
[1]https://www.linkedin.com/in/s... [2]https://www.youtube.com/watch...\_U