杜克大學計算機科學家因人工智慧工作獲得價值 $1M 的“諾貝爾獎”
發布日期：通過肯·金格里
無論是防止電網爆炸、發現過去犯罪的模式，還是優化重症患者護理資源，杜克大學電腦科學家辛西婭·魯丁 (Cynthia Rudin) 希望人工智慧 (AI) 能夠展示其工作成果。尤其是當它做出深刻影響人們生活的決定時。
當機器學習發展領域的許多學者都專注於改進演算法時，魯丁卻想利用人工智慧的力量來幫助社會。她選擇尋找機會將機器學習技術應用於重要的社會問題，並在這個過程中意識到，當人類能夠窺視內部並理解它在做什麼時，人工智慧的潛力才能得到最好的釋放。
現在，經過15 年倡導和開發「可解釋」機器學習演算法（讓人類了解人工智慧的內部情況）後，Rudin 在該領域的貢獻為她贏得了由人工智慧協會頒發的$1 百萬松鼠人工智慧獎，用於造福人類。人工智慧的進步（AAAI）。 AAAI 成立於 1979 年，是為人工智慧研究人員、從業者和教育工作者提供服務的著名國際科學學會。
「只有世界知名的獎項，例如諾貝爾獎和電腦協會頒發的 AM 圖靈獎，才能獲得百萬美元級別的獎金。 Rudin 教授的工作強調了人工智慧系統在高風險領域的透明度的重要性。她在解決有爭議的問題上的勇氣凸顯了研究的重要性，以解決負責任和道德地使用人工智慧的關鍵挑戰。”
尤蘭達·吉爾
杜克大學電腦科學與工程教授魯丁是新年度獎項的第二位獲得者，該獎項由線上教育公司Squirrel AI 資助，旨在以與更傳統領域的最高獎項相媲美的方式表彰人工智慧領域的成就。
她因“在現實世界部署中的可解釋和透明人工智慧系統領域開展了開創性的科學工作，在社會正義和醫療診斷等高度敏感領域倡導這些功能，並為研究人員和研究人員樹立了榜樣” 。練習者。”
AAAI 獎項委員會主席兼前主席約蘭達·吉爾 (Yolanda Gil) 表示：“只有世界知名的獎項，例如諾貝爾獎和計算機協會頒發的 AM 圖靈獎，才能獲得百萬美元級別的獎金。” 「魯丁教授的工作強調了人工智慧系統在高風險領域的透明度的重要性。她在解決有爭議的問題上的勇氣凸顯了研究的重要性，以解決負責任和道德地使用人工智慧的關鍵挑戰。”
魯丁的第一個應用專案是與聯合愛迪生公司合作，該公司是一家負責為紐約市供電的能源公司。她的任務是使用機器學習來預測哪些沙井因電路退化和過載而面臨爆炸風險。但她很快就發現，無論她在代碼中添加多少新發表的學術花哨的東西，在面對處理調度員手寫筆記和托馬斯·愛迪生時代的會計記錄所帶來的挑戰時，它都難以有意義地提高性能。
「隨著我們繼續使用數據，我們從簡單的經典統計技術中獲得了更高的準確性，並更好地理解了數據，」魯丁說。 「如果我們能夠了解預測模型使用的信息，我們就可以向聯合愛迪生公司的工程師詢問有用的回饋，從而改進我們的整個流程。正是過程中的可解釋性幫助我們提高了預測的準確性，而不是任何更大或更奇特的機器學習模型。這就是我決定從事的工作，也是我的實驗室建立的基礎。」https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque
在接下來的十年中，魯丁開發了可解釋的機器學習技術，這些技術是能夠以人類可以理解的方式解釋自己的預測模型。雖然設計這些公式的程式碼複雜而複雜，但這些公式可能足夠小，可以用幾行寫在索引卡上。
Rudin 將她的可解釋機器學習品牌應用到了許多有影響力的項目中。她與馬薩諸塞州總醫院的合作者Brandon Westover 和Aaron Struck 以及她以前的學生Berk Ustun 一起設計了一個簡單的基於點的系統，可以預測哪些患者在中風或其他腦損傷後最有可能發生破壞性癲癇發作。她與麻省理工學院的前學生 Tong Wang 和劍橋警察局一起開發了一個模型，幫助發現犯罪之間的共性，以確定它們是否可能屬於同一罪犯所犯下的一系列犯罪行為。該開源程式最終成為紐約警察局 Patternizr 演算法的基礎，這是一段強大的程式碼，可以確定該市發生的新犯罪是否與過去的犯罪有關。
劍橋警察局副局長丹尼爾·瓦格納 (Daniel Wagner) 表示：“辛西婭致力於解決重要的現實問題、與領域專家密切合作的願望以及提取和解釋複雜模型的能力是無與倫比的。” 「她的研究對犯罪分析和警務領域做出了重大貢獻。更令人印象深刻的是，她強烈批評刑事司法和其他高風險領域中可能不公正的「黑盒子」模型，並大力倡導透明的可解釋模型，在這些模型中，準確、公正和無偏見的結果至關重要。”
黑盒模型與 Rudin 的透明代碼相反。這些人工智慧演算法中應用的方法使人類無法理解模型依賴哪些因素、模型關注哪些數據以及如何使用這些數據。雖然對於區分狗和貓等瑣碎任務來說，這可能不是問題，但對於改變人們生活的高風險決策來說，這可能是一個大問題。
「Cynthia 對解決重要現實問題的承諾、與領域專家密切合作的願望以及提煉和解釋複雜模型的能力是無與倫比的。她的研究對犯罪分析和警務領域做出了重大貢獻。更令人印象深刻的是，她強烈批評刑事司法和其他高風險領域中可能不公正的「黑盒子」模型，並大力倡導透明的可解釋模型，在這些模型中，準確、公正和無偏見的結果至關重要。”
丹尼爾·瓦格納
「Cynthia 正在改變人工智慧在社會應用中的使用方式，她將努力從黑盒子模型轉向可解釋的模型，表明傳統觀點——黑匣子通常更準確——往往是錯誤的，」楊軍說杜克大學計算機科學系系主任。 「這使得在高風險情況下讓個人（例如被告）接受黑盒子模型變得更加困難。辛西婭模型的可解釋性對於在實踐中採用它們至關重要，因為它們幫助人類決策者，而不是取代他們。”
一個有影響力的例子涉及 COMPAS——一種在多個州使用的人工智慧演算法，用於做出保釋假釋決定，ProPublica 調查指控該演算法在計算中部分使用種族作為因素。然而，這項指控很難證明，因為演算法的細節是專有訊息，而且 ProPublica 分析的一些重要方面也值得懷疑。魯丁的團隊已經證明，一個簡單的可解釋模型可以準確地揭示其考慮的因素，同樣可以很好地預測一個人是否會再次犯罪。魯丁說，這就引出了一個問題，為什麼需要使用黑盒子模型來進行這些類型的高風險決策。
「我們已經系統地表明，對於高風險的應用程序，只要我們仔細優化我們的模型，就不會損失準確性來獲得可解釋性，」Rudin 說。 「我們已經在刑事司法決策、眾多醫療保健決策（包括醫學影像、電網維護決策、金融貸款決策等）中看到了這一點。知道這是可能的，改變了我們對人工智慧無法解釋自身的看法。”
在她的整個職業生涯中，Rudin 不僅創建了這些可解釋的人工智慧模型，還開發和發布了技術來幫助其他人做同樣的事情。這並不總是那麼容易。當她第一次開始發表自己的作品時，「資料科學」和「可解釋的機器學習」這兩個術語還不存在，也沒有適合她研究的類別，這意味著編輯和審查員不知道如何處理它。辛西亞發現，如果一篇論文沒有證明定理並聲稱其演算法更準確，那麼它的發表就會更加困難，而且通常仍然如此。
「我從很早起就非常欽佩辛西婭，因為她的獨立精神、她的決心，以及她對課堂和論文中遇到的任何新事物的真正理解的不懈追求。即使作為一名研究生，她也是一名社區建設者，為同齡人挺身而出。”
英格麗·多貝希
隨著魯丁繼續幫助人們並發布她的可解釋設計，並且隨著更多關於黑盒子程式碼的擔憂不斷出現，她的影響力終於開始扭轉局面。現在，機器學習期刊和會議中有整個類別專門用於可解釋和應用的工作。該領域的其他同事及其合作者都在強調可解釋性對於設計值得信賴的人工智慧系統有多重要。
「我從很早起就非常欽佩辛西婭，因為她的獨立精神、她的決心，以及她對課堂和論文中遇到的任何新事物的不懈追求，」詹姆斯·B·杜克大學傑出校友英格麗德·道貝希斯(Ingrid Daubechies) 說。數學和電機與電腦工程教授，世界上最傑出的信號處理研究人員之一，也是魯丁在普林斯頓大學的博士生導師之一。 「即使作為一名研究生，她也是一名社區建設者，為同齡人挺身而出。她讓我進入了機器學習領域，因為在她溫柔但非常堅持地推動我進入這個領域之前，我根本不具備任何專業知識。我非常高興她能獲得如此美妙且當之無愧的認可！”
“看到辛西婭的工作以這種方式獲得榮譽，我感到無比興奮，”魯丁的第二位博士生導師、微軟研究院合作夥伴羅伯特·夏皮爾(Robert Schapire) 補充道，他在“增強”方面的工作為現代機器學習奠定了基礎。 “因為她鼓舞人心且富有洞察力的研究，她的獨立思考引導她走向與主流截然不同的方向，以及她對具有實際和社會重要性的問題的長期關注。”
魯丁在布法羅大學獲得數學物理和音樂理論學士學位，然後在普林斯頓大學完成應用和計算數學博士學位。隨後，她在紐約大學擔任美國國家科學基金會博士後研究員，並在哥倫比亞大學擔任副研究科學家。在 2017 年加入杜克大學之前，她曾擔任麻省理工學院統計學副教授，並在電腦科學、電氣和電腦工程、生物統計學和生物資訊學以及統計科學領域任職。
她三度獲得 INFORMS 分析創新應用獎，該獎項旨在表彰分析技術的創造性和獨特應用，並且是美國統計協會和數理統計研究所的會員。
「我要感謝 AAAI 和 Squirrel AI 設立的這個獎項，我知道這將改變該領域的遊戲規則，」Rudin 說。 “人工智慧幫助社會獲得‘諾貝爾獎’最終毫無疑問地表明，人工智慧為社會造福的主題實際上很重要。”
(C) 杜克大學
原始來源： WRAL 技術線