データホエール

データホエールの共有

最新情報: AI安全法案、出典: Machine Heart

当初の意図は良かったのですが、アプローチについてはまだ議論の余地があります。

半年以上議論されてきた SB 1047 法案は、つい先ほど、カリフォルニア州知事ギャビン・ニューサムが拒否権を発動したことで、ついに終結した。

注目すべきは、過去 30 日間でギャビンは大規模モデルの規制と生成 AI の安全な使用に関する合計 17 件の法案に署名したが、1047 件には拒否権を発動したということだ。

SB-1047とは何ですか?

SB 1047 は「最先端人工知能のための安全で安心なイノベーション法」の略で、リスクの高い AI モデルの誤用や壊滅的な結果を防ぐために明確な安全基準を確立することを目的としています。

具体的には、この法案は人工知能をモデルレベルで規制することを目的としており、一定の計算量とコストの閾値を超えて訓練されたモデルに適用されます。しかし、これらの閾値を厳密に遵守した場合、現在利用可能なすべての大規模モデルは「潜在的に危険」とみなされることになります。さらに、この法案は、これらのモデルを開発する企業に、その下流での使用または改変に対する法的責任を負わせており、実質的に起草者は大規模なオープンソースモデルとその輸出を完全に抑制し、オープンソースモデルの公開を萎縮させることを意図していることを示しています。

法案リンク: https://leginfo.legislature.c..._id=202320240SB1047

SB-1047法案が論争を巻き起こす

この法案は今年2月に上院に提出され、以来、議論を呼んでいます。フェイフェイ・リー氏、ヤン・ルカン氏、アンドリュー・ン氏はいずれも反対しています。最近、フェイフェイ・リー氏は自らこの法案の潜在的な悪影響について概説した記事を執筆しました。カリフォルニア大学の教員と学生数十名も、この法案に反対する共同書簡に署名しました（「フェイフェイ・リー氏が自ら記事を執筆、数十名の科学者がカリフォルニア州AI規制法案に反対する共同書簡に署名」参照）。しかし、マスク氏、ヒントン氏、ベンジオ氏など、この法案を支持する者も多くいます。法案がカリフォルニア州知事に提出される前に、両者は幾度となく激しい議論を交わしました。

騒動はようやく収まった。ニューサム知事は拒否権発動声明の中で、この法案がAI企業に課す負担、カリフォルニア州がこの分野をリードしていること、そして法案の範囲が広すぎるのではないかという批判など、自身の決定に影響を与えたいくつかの要因を挙げた。

発表後、オープンソースコミュニティを代表して、ヤン・ルカン氏はカリフォルニア州知事に感謝の意を表した。

アンドリュー・ン氏は、ヤン・ルカン氏が法案の欠陥を国民に説明し続ける努力を評価した。

しかし、喜ぶ人もいれば、落胆する人もいた。法案の提案者であるカリフォルニア州上院議員スコット・ウィーナー氏は、この結果に深い失望を表明した。ウィーナー氏は投稿の中で、この否決は「公共の安全と福祉、そして『地球の未来』に影響を与える重要な決定を下す大企業に対する監視を信じるすべての人にとっての挫折だ」と記した。

SB 1047の否決は、カリフォルニア州がAIの安全性の問題を無視していることを意味するものではないことに留意すべきです。これはニューサム知事が声明で言及した点です。知事はまた、フェイフェイ・リー氏をはじめとする関係者が、責任ある生成AIの導入に向けた保護策の策定において、カリフォルニア州を率いることを発表しました。

SB-1047を拒否する理由

カリフォルニア州知事ニューサム氏がSB1047の最終決定権を握った。なぜ知事は法案を拒否したのか？声明でその答えが明らかになった。

ギャビン知事は、世界トップ50のAI企業のうち32社がカリフォルニア州に拠点を置いており、大規模AIモデルの開発と革新に不可欠であると述べた。知事は、法案の趣旨は良いものの、多くの問題点があると指摘した。

AI 技術の脅威に対処するには、画一的な解決策ではなく、より繊細でターゲットを絞った対策を採用する方がよいと彼は考えています。

声明リンク: https://www.gov.ca.gov/wp-con...

以下は声明からの抜粋です。

世界のトップ50のAI企業のうち、32社がカリフォルニアに拠点を置いており、近代史における重要な技術進歩のパイオニアとなっています。この分野における私たちのリーダーシップは、研究・教育機関、多様性と積極性に富んだ従業員、そして知的自由の促進へのコミットメントに支えられています。将来の経営者、そしてイノベーターとして、私はこの業界を規制する責任を真摯に受け止めています。

SB 1047は、AIの導入がもたらす潜在的な脅威に関する議論を誇張しています。議論の核心は、規制の基準をAIモデルの開発コストと計算負荷に基づくべきか、それともこれらの要因に関わらずシステムの実際のリスクを評価するべきかという点にあります。この世界的な議論は、AIの能力が驚異的な速さで拡大する中で行われています。同時に、壊滅的なリスクを軽減するための戦略と解決策も急速に進化しています。

SB 1047は、最も高価で大型のモデルのみを対象としており、その規制枠組みは、急速に進化するこの技術の管理に関して、国民の間に誤った安心感を与える可能性があります。より小型で特殊なモデルは、SB 1047の対象モデルと同等、あるいはそれ以上に危険である可能性があります。

まだ初期段階にある技術を規制するために時間との闘いを強いられる中で、適応性は極めて重要です。これは微妙なバランスを必要とします。SB 1047は善意に基づいた法案でしたが、AIシステムが高リスク環境に導入されるか、重要な意思決定や機密データの利用を伴うかを考慮していません。それどころか、この法案は、大規模システムに導入される限りにおいて、最も基本的な機能にさえ厳格な基準を適用しています。私は、これがこの技術がもたらす実際の脅威から国民を守る最善の方法だとは考えていません。

大規模災害が発生するまで公衆保護のための行動を待つことはできないという著者の意見に賛成です。カリフォルニア州は責任を回避するつもりはありません。安全プロトコルを導入する必要があります。積極的な安全対策を実施し、不正行為に対しては明確かつ執行可能な厳しい罰則を設けなければなりません。しかし、公衆の安全を確保するために、AIシステムと能力の実証的な軌跡分析を欠いた解決策で満足しなければならないという点には同意できません。結局のところ、AIを規制するための効果的な枠組みは、技術そのものの進化に追いつく必要があります。

問題は解決していない、あるいはカリフォルニア州がこの技術の潜在的な国家安全保障への影響を規制する役割を果たしていないと主張する人々には同意しません。特に連邦議会による措置がない場合、カリフォルニア州のみでこのアプローチを採用することは理にかなっているかもしれませんが、このアプローチは経験的証拠と科学に基づく必要があります。

米国国立科学技術研究所の一部である米国AI安全研究所は、公共の安全に対する明らかなリスクを防ぐために、経験的手法に基づいた国家安全保障リスクガイドラインを策定しています。

私が2023年9月に発令した大統領令に基づき、私の政権内のさまざまな機関が、カリフォルニアの重要なインフラにおけるAIの使用に関する潜在的な脅威と脆弱性のリスク分析を実施しています。

私たちは専門家のリーダーシップのもと、科学と事実に基づいた AI リスク管理の実践を政策立案者に紹介するためのいくつかの取り組みを行っています。これらはほんの一例です。

こうした取り組みを通じて、私は過去 30 日間で AI がもたらす既知の特定のリスクを規制する 12 件以上の法案に署名しました。

AI セキュリティは長く困難な作業です。

ニューサム知事は声明の中で、30日以内に12件以上の法案に署名したと述べました。これらの法案は、露骨なディープフェイクコンテンツの規制、AI生成コンテンツへの透かしの追加義務付け、パフォーマーのデジタル肖像画の保護、故人の音声や画像の著作権、消費者のプライバシー、教育への人工知能導入の影響の検討など、幅広い問題を網羅しています。

法案リストへのリンク: https://www.gov.ca.gov/2024/0...

SB 1047 の AI リスク評価に科学的分析が欠けていることを受けて、知事は、カリフォルニア州が生成 AI を展開するための実行可能な安全策を開発できるよう、生成 AI の世界的リーダーに協力を依頼したことを発表しました。

フェイフェイ・リー氏に加え、米国科学アカデミーの計算研究の社会的・倫理的影響に関する委員会委員のティノ・クエラ氏、カリフォルニア大学バークレー校の計算・データサイエンス・社会学部の学部長ジェニファー・ツアー・チェイズ氏もこのプログラムのメンバーです。

彼らの研究は、最先端モデル、その能力、そしてそれに伴うリスクについて、実証的かつ科学に基づいた軌跡分析に焦点を当てています。これは長く困難な作業です。

参考リンク：https://www.gov.ca.gov/2024/0...