デューク大学のコンピューター科学者、人工知能の研究で$1M相当の「ノーベル賞」を受賞
発行日:ケン・キングリー
デューク大学のコンピューター科学者シンシア・ルーディンは、電力網の爆発を防ぐ、過去の犯罪のパターンを見つける、重篤な患者の治療におけるリソースを最適化するなど、人工知能 (AI) がその役割を発揮することを望んでいます。特に、人々の生活に深く影響を与える決定を下すときにそれが求められます。
機械学習の発展途上の分野の多くの学者がアルゴリズムの改善に焦点を当てている一方で、ルーディン氏は AI の力を社会に役立てたいと考えていました。彼女は機械学習の技術を重要な社会問題に適用する機会を追求することを選択し、その過程で、人間が AI の内部を覗き込み、AI が何をしているのか理解できるときに AI の潜在能力が最も発揮されることに気づきました。
人間が AI の内部を見ることを可能にする「解釈可能な」機械学習アルゴリズムの提唱と開発に 15 年間携わった後、ルーディン氏はこの分野への貢献により、人工知能推進協会 (AAAI) から人類の利益のための人工知能に対して $1 百万の Squirrel AI 賞を受賞しました。1979 年に設立された AAAI は、AI の研究者、実践者、教育者を支援する著名な国際科学団体です。
「ノーベル賞や計算機協会のAMチューリング賞など、世界的に有名な賞だけが、100万ドルレベルの賞金を伴います。ルーディン教授の研究は、高リスク領域におけるAIシステムの透明性の重要性を浮き彫りにしています。物議を醸す問題に取り組む彼女の勇気は、AIの責任ある倫理的使用における重大な課題に取り組む研究の重要性を浮き彫りにしています。」
ヨランダ・ギル
デューク大学のコンピュータサイエンスとエンジニアリングの教授であるルーディン氏は、オンライン教育会社スクワレルAIが資金提供し、より伝統的な分野の最高賞に匹敵する方法で人工知能の業績を表彰する新しい年次賞の2番目の受賞者です。
彼女は、「現実世界での展開における解釈可能で透明性のある AI システムの分野における先駆的な科学的研究、社会正義や医療診断などの非常に繊細な分野でのこれらの機能の擁護、研究者や実務家のロールモデルとしての役割を果たした」ことが評価されています。
「ノーベル賞や計算機協会のAMチューリング賞など、世界的に有名な賞だけが、100万ドルレベルの賞金を授与します」とAAAI賞委員会委員長で元会長のヨランダ・ギル氏は述べた。「ルーディン教授の研究は、高リスク領域におけるAIシステムの透明性の重要性を浮き彫りにしています。物議を醸す問題に取り組む彼女の勇気は、AIの責任ある倫理的使用における重要な課題に取り組む研究の重要性を浮き彫りにしています。」
ルーディンの最初の応用プロジェクトは、ニューヨーク市の電力供給を担うエネルギー会社コンエジソンとのコラボレーションでした。彼女の課題は、機械学習を使用して、電気回路の劣化や過負荷により爆発の危険があるマンホールを予測することでした。しかし、彼女はすぐに、新しく公開された学術的な機能をコードにどれだけ追加しても、ディスパッチャーの手書きのメモやトーマス・エジソン時代の会計記録を扱うという課題に直面し、パフォーマンスを大幅に向上させることは難しいことに気づきました。
「私たちは、データを使い続けるうちに、単純な古典的な統計手法から精度が高まり、データに対する理解も深まりました」とルーディン氏は言います。「予測モデルがどのような情報を使用しているかを理解できれば、コンエジソンのエンジニアに有益なフィードバックを依頼して、プロセス全体を改善することができます。予測の精度向上に役立ったのは、プロセスの解釈可能性であり、より大規模で手の込んだ機械学習モデルではありません。私が取り組むことを決めたのはそれであり、それが私の研究室の基礎となっています。」https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque
その後 10 年間、ルーディンは解釈可能な機械学習の技術を開発しました。これは、人間が理解できる方法で自らを説明する予測モデルです。これらの数式を設計するためのコードは複雑で洗練されていますが、数式はインデックス カードに数行で書けるほど小さいかもしれません。
ルーディン氏は、独自の解釈可能な機械学習を数多くの影響力のあるプロジェクトに応用してきた。マサチューセッツ総合病院の共同研究者ブランドン・ウェストオーバー氏とアーロン・ストラック氏、そして元教え子のバーク・ウステン氏とともに、脳卒中やその他の脳損傷後に破壊性発作を起こすリスクが最も高い患者を予測できるシンプルなポイントベースのシステムを設計した。また、元MITの教え子トン・ワン氏およびケンブリッジ警察とともに、犯罪間の共通点を発見し、それらが同一犯による一連の犯罪の一部であるかどうかを判断するのに役立つモデルを開発した。このオープンソースプログラムは最終的に、ニューヨーク市警のPatternizrアルゴリズムの基礎となった。これは、市内で発生した新たな犯罪が過去の犯罪と関連しているかどうかを判断する強力なコードである。
「シンシアの重要な現実世界の問題の解決への取り組み、分野の専門家と緊密に協力したいという願望、複雑なモデルを抽出して説明する能力は比類のないものです」とケンブリッジ警察署の副警視ダニエル・ワグナー氏は語ります。「彼女の研究は、犯罪分析と警察活動の分野に多大な貢献をもたらしました。さらに印象的なのは、彼女は刑事司法やその他の重要な分野における不公平な可能性のある「ブラックボックス」モデルを厳しく批判し、正確で公正かつ偏りのない結果が不可欠な透明性のある解釈可能なモデルを熱心に支持していることです。」
ブラックボックスモデルは、ルーディンの透明なコードとは正反対です。これらの AI アルゴリズムに適用される手法では、モデルがどの要素に依存しているか、どのデータに注目しているか、どのように使用しているかを人間が理解することはできません。これは、犬と猫を区別するなどの些細なタスクでは問題にならないかもしれませんが、人々の生活を変えるような重大な決定では大きな問題になる可能性があります。
「シンシアの重要な現実世界の問題の解決への取り組み、分野の専門家と緊密に協力したいという願望、複雑なモデルを抽出して説明する能力は比類のないものです。彼女の研究は、犯罪分析と警察活動の分野に多大な貢献をもたらしました。さらに印象的なのは、彼女は刑事司法やその他の重要な分野における不公平な可能性のある「ブラックボックス」モデルを強く批判し、正確で公正かつ偏りのない結果が不可欠な透明性のある解釈可能なモデルを熱心に支持していることです。」
ダニエル・ワグナー
「シンシアは、ブラックボックスモデルから解釈可能なモデルへと取り組みを方向転換し、ブラックボックスの方が一般的に正確であるという通説が多くの場合誤りであることを示すことで、社会応用における AI の利用方法の様相を変えています」と、デューク大学のコンピューターサイエンス学部長であるジュン・ヤン氏は語ります。「これにより、重大な状況で個人 (被告など) をブラックボックスモデルにさらすことを正当化することが難しくなります。シンシアのモデルの解釈可能性は、人間の意思決定者に取って代わるのではなく、意思決定者を支援するものであるため、実際に採用される上で極めて重要でした。」
影響力のある例の 1 つに、COMPAS があります。COMPAS は複数の州で保釈仮釈放の決定に使用されている AI アルゴリズムで、ProPublica の調査により、計算に人種を部分的に要素として使用していると非難されました。ただし、アルゴリズムの詳細は機密情報であり、ProPublica による分析の重要な側面の一部に疑問があるため、この非難を証明するのは困難です。Rudin のチームは、考慮に入れている要素を正確に示す、シンプルで解釈可能なモデルは、人が再び犯罪を犯すかどうかを予測するのにも同等に優れていることを実証しました。Rudin は、このような重要な決定にブラック ボックス モデルを使用する必要があるのはなぜかという疑問が湧くと述べています。
「私たちは、モデルを慎重に最適化する限り、重要なアプリケーションでは解釈可能性を高めるために精度が損なわれることはないことを体系的に示してきました」とルーディン氏は言う。「私たちは、刑事司法の決定、医療画像を含む数多くのヘルスケアの決定、電力網の保守の決定、金融ローンの決定などでこれを見てきました。これが可能であると知ることで、AI は自己説明ができないという私たちの考え方が変わります。」
ルーディン氏は、これまでのキャリアを通じて、こうした解釈可能な AI モデルを作成するだけでなく、他の人にも同じことができるようにするための技術を開発し、公開してきました。これは必ずしも容易なことではありません。ルーディン氏が初めて研究を発表し始めたころは、「データ サイエンス」や「解釈可能な機械学習」という言葉は存在せず、ルーディン氏の研究がうまく当てはまるカテゴリもありませんでした。つまり、編集者や査読者は、ルーディン氏の研究をどう扱えばよいか分からなかったのです。ルーディン氏は、論文が定理を証明し、そのアルゴリズムがより正確であると主張していない場合、論文の公開はより困難であり、今でもそうである場合が多いことに気づきました。
「私は幼い頃からシンシアの独立心、決断力、授業や論文で出会った新しいことの真の理解を執拗に追求する姿勢に非常に感銘を受けてきました。大学院生のときから、彼女はコミュニティーの構築者であり、仲間のために立ち上がっていました。」
イングリッド・ドーベシー
ルーディン氏が人々を助け、解釈可能な設計を発表し続けるにつれ、そしてブラックボックス コードに関する懸念がさらに増え続けるにつれ、彼女の影響力はついに方向転換し始めている。現在、機械学習のジャーナルや会議には、解釈可能で応用可能な研究に特化したカテゴリが設けられています。この分野の他の同僚やその協力者たちは、信頼できる AI システムを設計するには解釈可能性がいかに重要であるかを声高に訴えています。
「私は幼い頃からシンシアの独立心、決断力、授業や論文で出会った新しいことを何でも真に理解しようとする飽くなき追求に非常に感銘を受けてきました」と、プリンストン大学でルーディン博士の指導教官を務め、信号処理の世界的権威であり、ジェームズ・B・デューク数学・電気・コンピュータ工学特別教授でもあるイングリッド・ドーベシーズ氏は語ります。「大学院生の頃から、彼女はコミュニティー・ビルダーであり、同期生を擁護していました。彼女が優しく、しかし非常に粘り強く私をそっと後押しするまで、私は機械学習の分野にまったく精通していませんでした。彼女がこのように素晴らしい、そして当然の評価を受けたことを、とても嬉しく思います。」
「シンシアの研究がこのように評価されて、これ以上にうれしいことはありません」と、ルーディン博士の2番目の博士課程の指導教官であり、マイクロソフト リサーチのパートナーであるロバート シャピレ氏は付け加えた。シャピレ氏の「ブースティング」に関する研究は、現代の機械学習の基礎を築くのに役立った。「シンシアの刺激的で洞察力に富んだ研究、主流とはまったく異なる方向へと導いた独自の思考、そして実用的かつ社会的に重要な問題や課題に対する長年の関心に対してです。」
ルーディンは、バッファロー大学で数理物理学と音楽理論の学士号を取得した後、プリンストン大学で応用数学と計算数学の博士号を取得しました。その後、ニューヨーク大学で国立科学財団の博士研究員として、またコロンビア大学で准研究員として働きました。マサチューセッツ工科大学で統計学の准教授となり、2017 年にデューク大学の教授に就任し、コンピューター サイエンス、電気工学とコンピューター工学、生物統計学とバイオインフォマティクス、統計科学の分野で役職に就いています。
彼女は、分析技術の創造的かつユニークな応用を表彰する INFORMS Innovative Applications in Analytics Award を 3 回受賞しており、アメリカ統計学会および数理統計学会のフェローでもあります。
「この賞を創設してくれたAAAIとSquirrel AIに感謝します。この賞は、この分野にとって画期的なものとなるでしょう」とルーディン氏は述べた。「社会に貢献するAIに『ノーベル賞』が授与されたことで、このテーマ、つまり社会の利益のためのAIの取り組みが実際に重要であることが、ついに疑いなく明らかになりました。」
(C)デューク大学
元の情報源: WRAL TechWire