データホエール

データホエールの共有

AGIの影響について、編集者：新知源**

[はじめに]オックスフォード大学のニック・ボストロム教授が、学術界に衝撃的な発言をしました。博士号取得には慎重な検討が必要だ、というものです。人工知能（AI）の急速な発展に伴い、長期的な学術投資の在り方について、今こそ疑問を投げかける時なのかもしれません。

最近、哲学者のニック・ボストロムは驚くべき発言をした。「AGI が間もなく登場するので、大学の学位や博士課程などの長期投資は価値がないかもしれない。」

この1分間の動画はソーシャルメディア上で幅広い議論を巻き起こし、AI開発がこれほど劇的に加速するかどうかを疑問視する声や、学術研究への投資収益率に注目する声が上がった。

未来がどうなるかは誰にも分からない。ボストロム氏の考えはあくまで個人的な見解に過ぎないが、AI時代の人々の狂気と不安を反映している。

長期的な学術投資は価値がないのでしょうか?

「最初の超知能機械は人類の最後の発明である。」

これはボストロムの最も有名な引用であり、その不吉な考えは彼の著書「スーパーインテリジェンス」から来ています。

この本はニューヨークタイムズでベストセラーに選ばれ、ビル・ゲイツやイーロン・マスクからも推薦されています。

ボストロム氏はニューヨーカー誌によって「終末哲学者」と評され、「スウェーデンの超頭脳」としても知られている。

オックスフォード大学の教授として、彼は理論物理学、計算神経科学、論理学、人工知能、哲学など、複数の分野に精通していました。彼は世界で最も引用されている哲学者の一人であり、2005年から今年4月に閉鎖されるまで、オックスフォード・フューチャー・オブ・ヒューマニティ研究所を率いていました。

今年4月、ボストロム氏はこの見解を繰り返し、超知能は私たちが実現すべき最後の発明だと述べ、1年以内に実現する可能性があると付け加えた。

ボストロム氏：AI革命は今後5～10年以内に起こるかもしれませんが、人的資本への長期的な投資サイクルは20～30年です。その投資に対するリターンは得られない可能性が非常に高いでしょう。なぜなら、その頃には既にAIが様々な分野で人間に取って代わり、人的資本の価値は下落している可能性があるからです。これは、もはや存在しないかもしれない未来の一側面です。

大学生活を本当に楽しみたいなら、大学に進学しましょう。でも、ただ無理やり学位を取りたいだけなら、その3～4年間を節約して、やりたいことをすぐに始める方法があるかどうか、真剣に検討してみることをお勧めします。

同様に、アメリカの博士課程は5～6年かかることもあり、これは非常に長い期間です。多くの場合、その期間はあまりにも長すぎて、価値がないと思います。

司会者：それは単に変化のペースが加速したからでしょうか？

ボストロム氏： そうですね。時間の方が切迫しているかもしれないので。

ボストロム氏が全員に「一斉に退学する」ことを提唱しているのではなく、博士号取得を投資とみなせば期待通りの見返りは得られないかもしれないが、それでもその過程を楽しむことができると言っているのは明らかだ。

しかし、この問題を逆の視点から考えることも非常に意義深い。AIが雇用市場を混乱させる時代に、私たちの教育システムは時代の流れに遅れないようにどのように変化すべきだろうか？学生への教育目標は進化していくべきだろうか？

「学校や大学は、学生たちが目指す職業がAIに置き換えられるのであれば、こうした教育システムの目的は何なのか、と自問すべき時が来ている」

AGIはますます近づいている

白熱した議論を巻き起こしたボストロムのビデオは、トム・ビルユーが司会を務める「インパクト・セオリー」という番組からのものだ。

トム・ビルユー氏とニック・ボストロム氏は 1 時間半にわたり、ますます進歩する AI の倫理的および社会的影響について検討しました。

これらには、人工知能に関する倫理的配慮、権力の集中化の可能性、警察や軍隊などの主要部門の自動化、そして社会に重大な影響を及ぼす可能性のある「過剰刺激」などが含まれます。

ニック・ボストロム氏のような多くの学者は、ペンシルバニア大学ウォートン校のイーサン・モリック氏を含め、AGI が間もなく登場すると考えています。

今年初め、イーサン・モリック氏は「多くのコンピューター科学者はAGIは近い将来には不可能だと考えていたが、考えが変わった。タイムラインは1年で13年も短縮された」とツイートした。

番組では、AGI が急速に近づいているというボストロム氏のほぼ正気ではない予測とともに、今年出版された同氏の新著「Deep Utopia」についても触れた。

タイトルが示唆するように、ボストロムはテクノロジー楽観主義者です。彼は、過去2世紀の出来事によって「ディストピア」がほとんど精神的な習慣となり、「ユートピア」という概念に対する過度の懐疑主義につながっていると主張しています。

「こうしたユートピア的な社会ビジョンを抱く人々が、実際にこうしたビジョンを実現する力を得た場合、一連の破壊と苦しみを引き起こすことになるだろう。」

しかし、ボストロムはそれに興味がないように見えた。むしろ、テクノロジーが多くの問題を解決したら世界はどう変わるだろうか？その時、人類は人生とその意味をどう捉えるだろうか？といった思考実験をしているようだった。

Wired 誌が書いたレビューは、おそらくこの本の中心的な考え方をほぼ要約している。

『ディープ ユートピア』では、壊滅的な打撃ではなく、人類が超知能機械の開発に成功し、大惨事を回避する未来について考察しています。… 本書では、技術的なユートピアにおける人生の意味を検証し、そのような人生がむしろ空虚なものになるのではないかと疑問を投げかけています。

この会話の中で、ニック・ボストロムは力強く自身の見解を表明した。

「毎朝ゴミ収集車を運転して街中を回ってゴミを集めるのではなく、オプティマスロボットを搭載した自律型ゴミ収集車がゴミ箱にゴミを詰めて回収する、という作業をすべて自動で行う方が良いでしょう。」

「伝統の保存を重視するならば、人間自身に任せる以外に伝統を保存する方法はないかもしれない。」

「これらのデジタルマインドがあれば、わずか数年で医学研究を加速させ、老化のプロセスを逆転させる方法を発見し、現在ほぼ避けられない人間の苦しみや死の多くを回避できるかもしれないと想像できます。」

「ネズミでさえ知覚力があると主張できる、あるいは少なくとも何らかの単純な道徳的立場を持っていると主張できるのであれば、ネズミとほぼ同じように行動する人工知能システムもまた、道徳的立場の予備的な候補になるだろうと私は信じている。」

「現代社会の弊害の一部は、人類の進化の過程で常に存在してきたある種の生存圧力や機会の欠如に起因しているのかもしれない。」

「何もする必要がないなら、人生に意味を与える何か他のものを見つける必要がある。 」

参考文献:

https://www.reddit.com/r/arti..._bostrom_says_it_may_not_be_worth_making/

https://youtu.be/OCNH3KZmby4