データホエール（マシンハート）

データホエールの共有

編集者：マシンハート

現在カナダのバンクーバーで開催されているトップクラスのAIカンファレンス「NeurIPS」で、ある学者がプレゼンテーション中に中国の学者に対して差別的な発言をした。

「論文の結果を良く見せるためにやったんです。学校では倫理や価値観を教えてくれなかったんです。」―一流大学から退学処分を受けた中国人学生の言い訳。注：私が知っている中国人のほとんどは正直で誠実です。これはKeynoteのプレゼンテーションスライドからの引用です。

何が起こったかは以下の通りです。

MIT のロザリンド・W・ピカード教授は、「最も重要なものを最適化する方法」というテーマで講演するよう招待されました。

しかし、スピーチの最後の部分で、彼女は誠実さに関するアドバイスをいくつか提供しました。

何か気づいたら、声を上げましょう。悪い行動を見かけたら、その人を脇に呼び、「ほら、これが正しいやり方だよ！」と声をかけましょう。

最近、非常に優秀な生徒が何らかの行動を理由に退学処分を受けたという事件を知りました。生徒は「うちの学校では道徳や価値観を誰も教えてくれなかった」と言い訳をしようとしたのです。この生徒は中国の名門校出身で、このような行動が容認されているという事実に衝撃を受けました。これが例外であることを願います。もし彼らが、それが当たり前だと言っていたら、私はこのように引用しなかったでしょう。しかし、はっきりさせておきたいことがあります。もし皆さんの中に、そのような学校出身で、この話を聞いたことがなかった方がいらっしゃいましたら、学校で教えられたかどうかに関わらず、社会の若い世代はこのような行動を不誠実と見なす可能性があると思います。

もちろん、生成された結果を使って様々なクールなものを作り、トレーニングセットを改善することさえありますが、コミュニティ内で許容できる範囲を明確にする必要があります。人々にこのことをより深く理解してもらうために、教育も必要です。私たちは皆、キャリアを通して履歴書を最適化したいと考えていますが、それは限定的で、正しく行われなければなりません。誠実さを損なわないでください。誠実さは履歴書に書くどんな印象的なことよりも重要です。ですから、人生、履歴書、その他何であれ、最適化を行う際には、必ず限定的な最適化に留めてください。

その後、質疑応答で、中国人の女子学生が勇敢にもこう指摘しました。「プレゼンテーション全体を通して、研究者の国籍について明確に言及したのはたった一枚のスライドだけで、それも中国人学生に関するものでした。しかし、あなたが出会った中国人学生のほとんどは誠実で信頼できる人々だとも書いていました。あなたは他の悪質な行為についても触れていましたが、彼らの国籍については触れていなかったため、特に一人か二人の悪質な人物の国籍に注目したとお考えですか？」

教授はこう答えた。「念のため言っておきますが、それは私の判断ではなく、学生が学校では教えていないと言っていたことに基づいています。つまり、それは多くの中国人に当てはまるということです。私自身は実際に見たことはありませんが、私が見てきたことを書き留めただけです。つまり、私が一緒に仕事をしてきた中国人は皆、実際には優秀で、私が言及した人は例外です。もしかしたら、他にもいるかもしれませんし、よくあることかもしれません。誰にもわかりません。ただの例外であることを願います。」

中国人の少女は続けた。「はい、ご説明ありがとうございます。これは、生徒たちが誠実で正直であるがゆえに、このようなフィードバックをくれたことを示しているのかもしれません。しかし、個人的には中国人として、少し不快に感じます。なぜなら、国籍について明確に言及されているのはここだけだからです。多くの悪質な行為について言及されましたが、コミュニティの外で良い評判を維持することは重要ですが、コミュニティ内でも無意識の偏見や潜在的な人種差別への意識を高めることが重要だと思います。今後、このフィードバックを再度提示する際には、国籍のラベルを削除していただければ幸いです。この特定のグループに対して不公平に思えるからです。」

教授は「この質問をしていただき、ありがとうございます。ご提案に従って削除させていただきます」と答えました。

会話の全文はこちらをご覧ください:

NeurIPSはすぐに反応したが、結論は示さなかった。

その後、ロザリンド・W・ピカードはMITメディアラボの公式ウェブサイトで謝罪声明を発表しました。

NeurIPSでの基調講演で、国籍に関するエピソードをお話ししました。深く反省しています。このエピソードは不必要であり、私の視点とは無関係であり、意図せず否定的な連想を生んでしまったと考えています。この件について深くお詫び申し上げます。ご迷惑をおかけした皆様には深くお詫び申し上げます。この経験から学びを得ました。コミュニティの誤りを正すためのご提案をお待ちしております。

生成型人工知能（GAI）がもたらす実用的かつ倫理的な問題は、私たち全員に影響を与えると強く信じています。国境や文化の境界を越えて、これらの問題に共に取り組めることを願っています。

画像ソース: https://media.mit.edu/posts/n...

ネットユーザーは議論している

このニュースは会議から発表されると、研究者やネットユーザーの間で大きな議論を巻き起こしました。そこで、いくつかの代表的な見解をまとめてみました。

中国の一部研究者は、こうした発言の不適切さを明確に指摘している。

国籍情報が例に含まれている理由について疑問を呈する声もありましたが、その後、国籍は何も表さないと説明されました。もし本当に無関係なら、なぜ別途言及する必要があるのでしょうか？それとも、発言者は国籍が関連していると考えているのでしょうか？もしそうであれば、その理由を説明する必要があります。

もっと適切な言い方をすれば、「学生」でしょう。

もちろん、他の視点も見ることができます。

では、NeurIPSに招待された基調講演者、ロザリンド・ピカードとは一体何者なのでしょうか？彼女のホームページには77ページにわたる経歴が掲載されています。

個人ウェブサイトでは、彼女は科学者、発明家、エンジニア、そしてMIT教授であると自己紹介している。ロザリンド・ピカードはMITメディアラボの教授である。彼女は1990年代に「アフェクティブ・コンピューティング」という概念を提唱し、コンピューターは人間の感情を理解し、それに反応できるべきだと主張した。

彼女の研究チームは、人間の生理学的データをモニタリングできる様々なウェアラブルデバイスを開発してきました。これらのデバイスは現在、医療分野で広く利用されており、例えば、てんかん発作の検出、自閉症患者の気分変動のモニタリング、うつ病や心的外傷後ストレス障害（PTSD）などの疾患の研究に役立てられています。彼女はこれらの分野で100件以上の特許を取得しています。これらの研究成果に基づき、彼女はEmpaticaとAffectivaという2つの企業を設立し、それぞれてんかん検出用のスマートウェアラブルデバイスと人間の感情を理解するための人工知能技術の開発に注力しています。

読者のコメント: 「この勇敢な中国人少女に拍手！👍」

読者の皆さんはどう思いますか？ぜひコメント欄で議論してください。

参考リンク: https://www.reddit.com/r/Mach..._what_happened_at_neurips/