データホエール

データホエールの共有

OpenAI o1モデル、出典：Synced

[はじめに] OpenAIの「Strawberry」（O1シリーズモデル）が驚異的なスピードでリリースされました！複雑な推論、数学、そしてコーディングの問題を全く新しいレベルに引き上げ、LLMの能力に対する従来の概念を覆しました。Ilyaが先駆者となったこの研究は、全く新しいスケーリング則を生み出しました。

OpenAIの最も強力なO1シリーズモデルがリリースされました。OpenAIは何の予告もなく、この衝撃的なニュースを放ちました。

2週間以内に発売されるはずだったイチゴモデルが、なんとたった2日で届きました！

本日より、o1-preview は ChatGPT のすべての Plus および Team ユーザーと、API の Tier 5 開発者に展開されます。

同時に、OpenAI は、STEM、特に数学とコーディングに優れたコスト効率の高い推論モデルである o1-mini もリリースしました。

o1 モデルにはまだ欠陥や制限があり、長期間使用した場合よりも初めて使用したときの方が印象的です。

まったく新しい O1 シリーズは、複雑な推論パフォーマンスをまったく新しいレベルに引き上げ、真に汎用的な推論機能を備えていると言えます。

一連のベンチマークテストにおいて、O1はGPT-4Oに対して再び大きな改善を示し、国際数学オリンピックで金メダルを獲得する能力を備えています。物理学、生物学、化学の問題のベンチマークテストでは、人間の博士課程の学生のレベルを直接上回りました。

OpenAIの研究者ジェイソン・ウェイ氏は、o1-miniは過去1年間で見た中で最も驚くべき研究成果だと述べました。AIME数学コンペティションで60%以上のスコアを獲得した小型モデルです。

しかし、OpenAI の記事の付録から判断すると、今回リリースされたプレビュー版とミニ版は、O1 の単なる「機能不全」版であるようです。

舞台裏のチームリスト

推論研究

創設メンバーの中で、起業のために退社したイリヤ・スツケヴァー氏が大きく名を連ねているものの、グレッグ・ブロックマン氏らと共にエグゼクティブ・リーダーシップ部門には名を連ねていない。おそらく、彼女のこれまでの研究活動がo1の基盤を築いたのだろう。

レン・ホンユ

レン・ホンユ氏は北京大学でコンピュータサイエンスの学士号を取得し、スタンフォード大学で博士号を取得しました。昨年7月にOpenAIに入社し、以前はGoogle、Apple、Nvidia、Microsoftなどの企業で勤務していました。

ジェイソン・ウェイ

Jason Weiは現在、OpenAIの研究員です。2020年から2023年にかけてGoogle Brainに勤務し、有名なCoT（命令の微調整）を提案し、大規模モデルの創発能力に関する論文を発表しました。

ケビン・ユー

ケビン・ユーは現在、OpenAIの研究員です。2014年にカリフォルニア大学バークレー校で物理学と天体物理学の理学修士号を取得し、2021年には神経科学の博士号を取得しました。

趙盛佳

Shengjia Zhaoは清華大学で学士号を取得し、スタンフォード大学で博士号を取得しました。2022年6月に卒業後、OpenAIの技術チームに加わりました。GPT-4の著者の一人でもあります。

周文達

ウェンダ・ゾウは昨年OpenAIに加わりました。以前はニューヨーク大学データサイエンスセンターのムーア・スローン・フェローを務めていました。

彼は2015年にケンブリッジ大学で修士号を取得し、2020年にコロンビア大学で統計学の博士号を取得しました。

フランシス・ソング

フランシス・ソンは、ハーバード大学で物理学の学士号、イェール大学で物理学の博士号を取得しています。彼は2022年にOpenAIに入社し、それ以前はDeepMindでリサーチサイエンティスト、ニューヨーク大学でアシスタントリサーチサイエンティストとして勤務していました。

マーク・チェン

マーク・チェンは2018年にフロンティアリサーチのディレクターとしてOpenAIに入社し、リサーチ担当副社長のボブ・マクグルーのリーダーシップの下、ワーキンググループを率いました。

チェン氏はMIT卒業後、数学とコンピュータサイエンスの2つの学士号を取得しました。大学在学中は、マイクロソフトとトレーディングでインターンシップを行い、ハーバード大学では客員研究員を務めました。

現在、米国IOIトレーニングチームのコーチも務めている。

さらに、リーダーシップチームには、イリヤ氏の後を継いで主任科学者となったヤクブ・パチョッキ氏と、OpenAIの数少ない共同創設者の一人であるヴォイチェフ・ザレンバ氏も含まれています。

推論技術のセキュリティ

ユ・ジエキ

ジーチー・ユーは復旦大学で電子工学の学士号を取得し、香港科技大学への交換留学プログラムに参加しました。その後、プリンストン大学で博士号を取得しました。Facebook社に12年間勤務し、ソフトウェアエンジニアからソフトウェアエンジニアリングマネージャーへと転身した後、昨年8月にOpenAIにエンジニアリングマネージャーとして入社しました。

カイ・シャオ

シャオ・カイはMITで学士号と博士号を取得しました。学部在学中に数学とコンピュータサイエンスのダブルディグリーも取得しています。オックスフォード大学への学術訪問経験があり、DeepMindやMicrosoftなどの企業でインターンシップを経験しました。2022年9月にOpenAIに入社しました。

リリアン・ウェン

Lilian Weng 氏は現在 OpenAI のセキュリティ システム責任者であり、機械学習とディープラーニングを研究しています。

彼女は北京大学で情報システムとコンピュータサイエンスの学士号を取得し、交換留学で香港大学に短期間留学しました。その後、インディアナ大学ブルーミントン校で博士号を取得しました。

マーク・チェン同様、リリアンも OpenAI のリーダーシップにおける新星とみなされている。

OpenAIは、O1モデルの開発者チームへの新たなインタビュー動画も公開しました。それではご覧ください。

チームの完全なメンバーは次の通りです。

参考文献:

https://openai.com/index/lear...

いいね！ （3件） ↓