同社がシード資金として10億ドルを調達した時点では従業員はわずか10人だった。

こうした驚くべき出来事は、イリヤ・スツケヴェル氏に起こった場合にのみ、いくぶん「普通」に思える。

大規模モデリングが世界を席巻する現代において、イリヤの貢献は世界を変えるレベルに達していると広く認識されています。

彼はAlexNetの3人の作者のうちの1人で、指導者のヒントンとともにGoogleに採用されてから、世界を揺るがしたAlphaGoプロジェクトに深く関わるようになった。

2015年、彼はOpenAIの設立に参加し、チーフサイエンティストを務めました。ChatGPTは再び世界を変えつつあり、彼はその背後にいる最も重要な人物の一人と考えられています。

昨年 11 月以来、イリヤ氏のあらゆる行動が注目を浴び、テクノロジー コミュニティから世界中の注目を集めています。

彼が先頭に立っていたOpenAI理事会内の内紛は、大規模モデルの開発方針をめぐる対立を露呈した。今年5月に彼がOpenAIから完全に袂を分かった後、誰もが彼の次の起業家としての行動に注目している。

事態が落ち着き、これまで目立たないようにしてきたイリヤ氏は、自身の会社 SSI についての情報や AGI に対する考えを外部の世界にさらに多く発信するようになりました。

ロイター通信とのインタビューで、イリヤ氏は6つの重要な質問に答えた。原文は以下のとおり。

SSI はなぜ設立されたのですか?

これまでの私の研究とは少し違う「山」を発見しました…この山の頂上に到達すると、パラダイムが変わります…人工知能について私たちが知っているすべてがまた変わるでしょう。

その時、超知能セキュリティ作業は極めて重要になります。

私たちの最初の製品は、安全で超インテリジェントなデバイスになります。

超知能に到達する前に、人間と同じくらい知能の高い AI が登場するのでしょうか?

重要なのは、「安全か？」「世界に良い影響を与える力か？」という点だと思います。これを達成できれば、世界は劇的に変化すると確信しています。そのため、現時点で「これから何をするか」という明確な計画を示すことは非常に困難です。

言えることは、世界は大きく変わるということです。AI分野で何が起こっているのか、外の世界の認識は劇的に変わり、理解が難しくなるでしょう。これは、はるかに激しい対話になるでしょう。そして、それは私たちの決断だけに左右されるものではないかもしれません。

SSI は安全な人工知能を構成するものをどのように決定するのでしょうか?

この質問に答えるには、重要な調査を行う必要があります。特に、私たちと同じように、物事が大きく変わると信じているなら…多くの素晴らしいアイデアが発見されているはずです。

AIがさらに強力になるにつれて、どのようなテストを実施すべきか疑問に思う人は多い。これは難しい問題であり、まだ多くの研究が残されている。

今のところ決定的な答えがあるとは言いたくありません。しかし、それは私たちが解明しなければならないことの一つです。

規模の仮定とAIのセキュリティについて

誰もが「スケーリング仮説」について語りますが、誰もが 1 つの質問を無視しています。何をスケーリングしているのか?

過去10年間のディープラーニングにおける驚異的な進歩は、スケーリングの仮定に関する特定の公式に基づいていました。しかし、それは変化します。そして、それが変化するにつれて、システムの能力は向上し、セキュリティの問題が最も喫緊の課題となるでしょう。まさにそれが私たちが取り組むべき課題なのです。

SSI はオープンソースになりますか?

現在、AI企業でコアとなる技術をオープンソース化している企業はなく、私たちも同様です。しかし、いくつかの要因次第では、スーパーインテリジェンスによるセキュリティ技術をオープンソース化する機会は数多くあると考えています。全てではないかもしれませんが、一部は確実に存在するでしょう。

他のAI企業のセキュリティ研究活動に関する私の考え

実際、私はこの業界を非常に高く評価しています。人々が進歩を続けるにつれ、すべての企業が、おそらく時期は違えど、自らが直面する課題の本質に気づくようになると信じています。ですから、他社にはできないと思っているのではなく、むしろ貢献できると信じているのです。

10億ドルは何に使われるのでしょうか?

最後に、イリヤについての追加の背景情報を紹介します。

SSI のニュースは今年 6 月に初めて発表されましたが、その明確な目標は、イリヤが OpenAI でできなかったこと、つまり安全なスーパーインテリジェンスを構築することでした。

SSIの従業員は現在10名のみです。資金調達後、その資金をコンピューティング能力の購入と優秀な人材の採用に充てる予定です。

彼らはその哲学に同意しており、AI がいつか人間の知能を超えることを心の底から受け入れる準備ができています。

共同創業者のダニエル・グロス氏はまた、資格や経験を過度に重視するのではなく、候補者が「良い性格」を持っているかどうかを審査するために数時間を費やすことも明らかにした。

コンピューティング能力の面では、SSI はクラウドプロバイダーやチップ企業と協力する予定ですが、どの企業と協力するか、どのように協力するかはまだ明らかではありません。

SSI の共同設立者には、イリヤ本人のほか、ダニエル・グロス氏とダニエル・レヴィ氏もいます。

△左：ダニエル・グロス、右：ダニエル・レヴィ

ダニエル・グロスはハーバード大学でコンピュータサイエンスの学位を取得しました。以前はYコンビネーターのパートナーを務め、Citrus LaneやWriteLaTeX（後にOverleafに改名）など、複数の企業の創業者または共同創業者でもあります。

彼はタイム100誌によって「人工知能分野で最も影響力のある人物」の一人に選ばれた。

ダニエル・レヴィはスタンフォード大学のコンピュータサイエンス学部を卒業し、以前は OpenAI 最適化チームの責任者を務めていました。