速報：OpenAI の次世代フラッグシップモデルのパフォーマンスが期待を下回ったことが明らかになりました。

このニュースは The Information からのもので、具体的には、 Orionモデルが GPT-4 に比べて改善された点が、GPT-3 に比べて改善された点よりも小さいという事実に言及しており、収穫逓減の段階に入ったことを示しています。

これは、かつてウルトラマンが新型機に GPT-5 という名前をつけないかもしれないと言った理由の一つかもしれません。

このニュースを聞くと、著名な悲観論者ゲイリー・マーカスはハーフタイムにすぐにシャンパンを開け、自分が勝利者だと宣言した。

さらに詳しい記事では、 AI業界全体での企業評価が高いのは、各社のモデル能力が今後も向上し、すぐにAGIに到達するだろうという期待に基づいていると主張しました。

改善のペースが鈍化すれば、ほとんどのAI企業が最先端のモデルに追いつくことができるようになります。その結果、業界内で価格競争が激化し、収益は低迷するでしょう。同時に、チップコストの高騰により、利益の確保は困難になるでしょう。

誰もがこれに気づけば、金融バブルはあっという間に崩壊し、 Nvidia さえも打撃を受ける可能性がある。

ボトルネックに遭遇しているのは OpenAI だけではない。Anthropic は以前、Claude 3.5 Opus を予定通りリリースできず、公式 Web サイトから関連する説明を削除した。

GoogleのGemini 2は近々リリースされる予定だが、そのパフォーマンスの向上はDeepMindの創設者たちの期待を満たしていないとも報じられている。

大規模モデルのスケーリング法則は本当に行き詰まったのでしょうか?

オリオン宇宙船の性能が期待を下回ったと報道される；ウルトラマン：AGI 2025

ChatGPT の進捗状況とウェブサイトのソースコードを長年追跡してきた Tibor Blaho 氏は、現在の情報に基づいて次のようにまとめています。

• 新しいモデルのテストに関わったOpenAIの従業員によると、Orionはトレーニングの20％を完了しただけでGPT-4レベルのパフォーマンスを達成したという。
• しかし、最終的な品質向上は GPT-3 から GPT-4 への飛躍よりも小さく、高品質データの可用性が限られているため、従来のスケーリングが遅くなる可能性があることを示唆しています。
• Orion のトレーニングでは、以前のモデル (GPT-4 および o1) から生成されたデータが使用されたため、古いモデルの動作の一部が再現される可能性があります。
• OpenAIは、高品質データの供給が減少する状況に直面して新たなアプローチを見つけるために「基礎チーム」を結成した。
• o1型モデルのコストは従来モデルの6倍であり、OrionはOpenAIのデータセンターの運用コストを増加させ、財務上の圧力をさらに高める可能性があります。
• OpenAIは、来年初めにリリースが予定されており、GPTシリーズという名称ではなくなる可能性のあるオリオン衛星のセキュリティテストを実施している。

一方、OpenAI の CEO や多くの上級社員からは別の話が聞こえてくる。

まず、ウルトラマンはYコンビネーターのギャリー・タン社長にインタビューを受けました。最後の質問「2025年、あなたをワクワクさせるものは何ですか？」に、彼は迷うことなく「AGI」と答えました。

このインタビューが論争を巻き起こした後、強化学習の専門家であるノーム・ブラウン氏は次のように発言した。

ウルトラマンは単なる誇大宣伝だという意見も聞いたことがあるが、私の観察では、彼の言うことはすべて OpenAI の第一線研究者の平均的な見解と一致している。

今年1月にOpenAIに入社した元テスラのエンジニアも同意を表明した。

参加して以来、私の視点は「これは無意味な誇大宣伝だ」から「AGI は基本的にここにある」へと変わりました。

率直に申し上げますが、今後は科学的な革新は比較的少なくなるでしょう。その代わりに、何年もかけて骨の折れる工学プロジェクトがそれに取って代わるでしょう。

それで、いったい何が起こったのでしょうか?

会話の中で、ギャリー・タン氏とウルトラマン氏は、ウルトラマン氏の Y Combinator での初期の経験、OpenAI の設立と開発、そして今日のスタートアップ企業へのアドバイスについて話し合いました。

最後に、ギャリー・タン氏は次のような質問を投げかけました。「昨秋の混乱から何を学びましたか？一部の従業員の退職についてどう思いますか？」

ウルトラマンは答えた。「疲れているけど、気分はいいよ。」

ChatGPT は設立から 2 年未満ですが、通常は 10 年かかる中規模または大規模のテクノロジー企業の開発を、わずか 2 年で迅速に進めています。

これは大きな痛みを伴います。事業を拡大する企業は、必ずと言っていいほど経営陣の交代を経験します。0から1への成長に長けた人材は、1から10、あるいは10から100への成長には必ずしも向いていないかもしれません。

...今はより安定した時期に向かっていると期待していますが、今後また物事が劇的に変化する時期が来ることは間違いありません。

ギャリー・タン氏は次のように質問しました。「OpenAIの現状を知りたいです。現状の品質と進歩のペースはどの程度ですか？」

ウルトラマンのその後の答えは、いつものように曖昧ではあったが、多くの注目を集めた。

何をすべきかを真に理解したのは、今回が初めてです。AGIの構築にはまだ多くの作業が必要で、既知の側面と未知の側面があり、時間がかかり、困難ではありますが、非常にエキサイティングです。

...私たちの研究の道筋は非常に明確であり、インフラストラクチャの道筋も非常に明確であり、製品の道筋はますます明確になっています...長い間、私たちはこのような状態ではありませんでした。

コメント投稿者は明らかに納得しておらず、契約によれば取締役会がAGI契約を発表すればマイクロソフトとの技術共有を停止できると主張し、ウルトラマンは単にAGIを再定義しようとしているのではないかと疑う者もいた。

これでは最近の OpenAI の優秀な人材の流出を説明できないと指摘する人もいる。

人材の流動性に関しては、OpenAIのモデル設計者Rohan Pandey氏は、それは人々が考えるほど深刻なことではないと述べた。

今年初め、OpenAIの従業員総数は1,700人を超え、昨年の取締役会の反乱以来1,000人以上増加したことが明らかになった。

一部のネットユーザーは、逆もまた真であると信じています。

急速な技術進歩を目の当たりにしたOpenAIの幹部たちは、早期に同社を退社し、独自のAIエージェント企業を設立した。

参考リンク:
[1]https://www.theinformation.co... [2]https://www.youtube.com/watch...\_8hM9w [3]https://garymarcus.substack.c... [4]https://www.theverge.com/2024... [5]https://x.com/btibor91/status...