ちょうど今、OpenAI のトップに大きな激変が起こりました。

共同創業者のジョン・シュルマン氏は辞任して逃亡し、共同創業者兼社長のグレッグ・ブロックマン氏は長期休暇を取り、製品担当副社長のピーター・デング氏も会社を去ったと報じられた。

長年にわたりOpenAIの強化学習チームを率いてきたジョン・シュルマン氏は、「 ChatGPTアーキテクト」として知られています。

彼はまた、イリヤ・サストケヴェルが去った後、一時的にスーパーアライメントチームを引き継ぎました。

彼は現在、クロード氏のチームである隣のアントロピックチームに参加するという「難しい決断を下した」と発表した。

同時に、OpenAIのグレッグ・ブロックマン会長も年末まで長期休暇を取ると発表した。

OpenAIは10月1日から世界各地で開発者デーなどのイベントを開催する予定だが、同氏は欠席する。

ブロックマン氏は、９年間働き続けてリラックスしたのは初めてだと話したが、年末以降の計画については曖昧な態度をとっており、一部のネットユーザーは、秘密保持契約によるものだと見ている。

シューマン氏の辞任が公式発表されてから20分後、ウルトラマンはシューマン氏への貢献に感謝の意を表し、2015年の最初の出会いを回想して応答した。

しかし、今のところウルトラマンはブロックマンの休暇に対して何の反応も示していない。

ウルトラマンは通常、文章の最初の文字や文字「i」を大文字にしません。しかし、重要な同僚が退職することを選択するときは、常により正式な態度をとります。

OpenAIの著名な内部アカウントであるApple Broは、「リーダーシップはもはや空っぽだ。さっさと製品をリリースすべきだ」と述べた。

ChatGPTのアーキテクトが辞任

シューマン氏はカリフォルニア工科大学で物理学を学び、その後カリフォルニア大学バークレー校で短期間神経科学を学び、その後強化学習の専門家であるピーター・アビール氏に師事してコンピューターサイエンスの博士号を取得しました。

彼はOpenAIの共同設立者になったとき、まだ博士号を取得していませんでした。

OpenAI は彼がインターンシップ以外で働いた最初で唯一の会社でした。

彼の代表的な研究であり、最も引用されている論文であるPPOは、ChatGPT の中核技術である RLHF で使用されている強化学習アルゴリズムです。

その後、GPT-3.5、GPT-4 から GPT-4o までの一連のプロジェクトで調整/トレーニング後チームを率いました。

彼が今回退社した理由もこれと関連している。

AI アライメントへの注力を深め、キャリアの新たな章を開き、実際の技術業務に戻ることができればと考えています。

しかし、彼はOpenAIに面目を与え、 「OpenAIが安全調整作業のサポートを欠いていたから辞めたのではなく」 、単に自分の個人的な努力に集中したかっただけだと付け加えた。

シューマン氏はICML 2023でのプレゼンテーションで、今後の研究の焦点の1つは過剰最適化を回避する方法であると述べました。

• ChatGPT における迷惑な動作の一部 (過度な謝罪など) は、過剰な最適化の結果です。
• RLHF は狭いメトリックで過剰最適化される傾向があります。たとえば、モデルは報酬を本当に理解することなく、報酬を得るための近道を学習する場合があります。
• 適切な対話タスクのトレーニングには、推論、視点の取得、知識が必要であり、研究者はトレーニング プロセス、報酬関数、データセットを慎重に設計する必要があります。
• 報酬信号は、個々のフィードバックだけでなく、会話全体の質を評価する必要があります。

シューマン氏は今年5月にポッドキャストのホストであるドワルケシュ・パテル氏とのインタビューで、コンピューティング能力をトレーニング前よりもトレーニング後にシフトさせるべきだとも述べた。

OpenAIは人材を失い続けています。

AIの安全性に関する哲学に関してUltramanと意見の相違があったため、OpenAIは大きな才能の喪失を経験しました。

今年5月、スーパーアライメントチームの2人のリーダー、主任科学者のイリヤ・スツケバー氏とRLHFの発明者の1人であるヤン・ライケ氏が同日にOpenAIを去った。

当時、スーパーアライメントチームが発足してからまだ1年も経っていませんでした。

ヤン・ライケ氏は退社後、10件以上のツイートを投稿し、OpenAIを激しく攻撃し、20%の計算能力向上という約束を果たせなかったこと、製品の品質よりもセキュリティをはるかに軽視していることを非難した。

その後、Jan Leike 氏はスーパーアライメントに関する研究を継続するため、OpenAI の競合企業である Anthropic に参加することを選択しました。

GPT-4プロジェクトでJan Leike氏とともに調整作業を共同で主導したRyan Lowe氏も、3月末にOpenAIを去った。

Super Alignmentのメンバーの一人であるウィリアム・サンダース氏と、GPT-4の敵対的テストに参加したダニエル・ココタジロ氏もOpenAIを去った。

言うまでもなく、隣にあるAnthropic の創設者 Dario Amodei 氏と Daniela Amodei 氏も OpenAI 出身です。

兄のダリオはOpenAIを去る前、研究担当副社長を務め、妹のダニエラはセキュリティ・戦略担当副ディレクターを務めていました。二人は、 GPT-3のチーフエンジニアであるトム・ブラウンを含む10人以上の従業員をアンスロピックに連れて行きました。

彼らが退社して起業することを選んだ理由の 1 つは、OpenAI がセキュリティ問題が解決される前に GPT-3 をリリースしたことに不満を感じたためです。

セキュリティを重視していることと、創設者の経歴が相まって、Anthropic は、最近同社を去った Jan Leike 氏や Schumann 氏を含む OpenAI 従業員にとっての主要な就職先の 1 つとなっている。

OpenAI は最近、セキュリティに関してもいくつかの措置を講じました。

7月末、OpenAIはセキュリティ担当シニアディレクターのアレクサンダー・マドリー氏をセキュリティ担当の職務から外し、「AI推論」の業務に再配置した。

しかし、OpenAIはメディアに対し、マドリー氏は新たな役職に就いた後も人工知能のセキュリティに引き続き取り組むと語った。

アルトマンCEOはまた、OpenAIが常にセキュリティを重視しており、「セキュリティチーム全体に少なくとも20%の計算能力を提供する」という約束を順守してきたと強調した。

しかし、鋭い観察眼を持つネットユーザーは、ウルトラマンがトリックを仕掛け、スーパーアラインメントチームに約束していた20%のコンピューティング能力を、セキュリティチーム全体に密かに変更していたことをすぐに発見した。

そのため、ウルトラマンのツイートの後、ネットユーザーもためらうことなくこの背景情報を、当時のOpenAIへの公式リンクとともに追加した。

うーん...インターネットは覚えているんだ。

もう一つ

OpenAIは社内で大きな人材流出を経験しているが、長年のライバルであるイーロン・マスクも新たな動きを見せている。

マスク氏はアルトマン氏とブロックマンCEOとともに、OpenAIを再び訴えた。

この訴訟は、マスク氏がOpenAIの設立に参加した際にアルトマン氏とブロックマン氏に「騙され、脅迫された」という主張に基づいている。

マスク氏は、OpenAIが安全でオープンな非営利組織であると約束したアルトマン氏の言葉を信じたため、当初OpenAIに参加し投資したと述べた。

しかし、OpenAIは後に営利団体となり、株式の一部をマイクロソフトに売却したため、マスク氏は裏切られたと感じて大いに不快感を示し、ウルトラマンを「裏切り者」と非難した。

マスク氏の弁護士マーク・トベロフ氏は、今回の訴訟は以前取り下げられた訴訟とは大きく異なると述べ、被告らは「マスク氏と国民に対する故意の虚偽の陳述について責任を負う」こと、そして「不正に得た利益の巨額の回収」を求めている。

この訴訟では、OpenAIがマイクロソフトに付与したライセンスの取り消しも求めている。

参考リンク：[1]https://www.bloomberg.com/new... [2]https://www.cnbc.com/2024/07/... [3]https://x.com/sama/status/181... [4]https://www.documentcloud.org... [5]https://www.nytimes.com/2024/...