Duke datavetare vinner "Nobelpriset" värt $1M för arbete med artificiell intelligens

Publiceringsdatum: 15 oktober 2021

av Ken Kingery

Oavsett om det gäller att förhindra explosioner på elnät, upptäcka mönster bland tidigare brott eller optimera resurserna i vården av kritiskt sjuka patienter, vill Duke Universitys datavetare Cynthia Rudin att artificiell intelligens (AI) ska visa sitt arbete. Speciellt när det är att fatta beslut som djupt påverkar människors liv.

Medan många forskare inom det utvecklande området maskininlärning var fokuserade på att förbättra algoritmer, ville Rudin istället använda AI:s kraft för att hjälpa samhället. Hon valde att utöva möjligheter att tillämpa maskininlärningstekniker på viktiga samhällsproblem, och insåg i processen att AI:s potential bäst låses upp när människor kan titta inuti och förstå vad den gör.

Nu, efter 15 år av att förespråka och utveckla "tolkbara" maskininlärningsalgoritmer som gör det möjligt för människor att se inuti AI, har Rudins bidrag till området gett henne $1 miljoner Squirrel AI Award for Artificiell Intelligens till förmån för mänskligheten från Association for utvecklingen av artificiell intelligens (AAAI). AAAI grundades 1979 och fungerar som det framstående internationella vetenskapssamhället som betjänar AI-forskare, utövare och utbildare.

"Endast världskända erkännanden, som Nobelpriset och AM Turing Award från Association of Computing Machinery, ger monetära belöningar på miljon dollarnivå. Professor Rudins arbete lyfter fram vikten av transparens för AI-system i högriskdomäner. Hennes mod att ta itu med kontroversiella frågor framhåller vikten av forskning för att hantera kritiska utmaningar i ansvarsfull och etisk användning av AI.”

YOLANDA GIL

Rudin, professor i datavetenskap och teknik vid Duke, är den andra mottagaren av det nya årliga priset, finansierat av onlineutbildningsföretaget Squirrel AI för att erkänna prestationer inom artificiell intelligens på ett sätt som kan jämföras med topppriser inom mer traditionella områden.

Hon citeras för "banbrytande vetenskapligt arbete inom området tolkbara och transparenta AI-system i verkliga implementeringar, förespråkandet av dessa funktioner inom mycket känsliga områden som social rättvisa och medicinsk diagnos, och tjänar som en förebild för forskare och utövare.”

"Endast världsberömda utmärkelser, som Nobelpriset och AM Turing Award från Association of Computing Machinery, ger monetära belöningar på miljon dollarnivå", säger ordföranden för AAAI:s utmärkelsekommitté och tidigare president Yolanda Gil. “Professor Rudins arbete belyser vikten av transparens för AI-system i högriskdomäner. Hennes mod att ta itu med kontroversiella frågor framhåller vikten av forskning för att hantera kritiska utmaningar i ansvarsfull och etisk användning av AI.”

Rudins första ansökta projekt var ett samarbete med Con Edison, energibolaget som ansvarar för att driva New York City. Hennes uppdrag var att använda maskininlärning för att förutsäga vilka brunnar som riskerade att explodera på grund av nedbrytande och överbelastade elektriska kretsar. Men hon upptäckte snart att oavsett hur många nyligen publicerade akademiska ringklockor och visselpipor hon lade till i sin kod, så kämpade den för att på ett meningsfullt sätt förbättra prestandan när den konfronterades med utmaningarna från att arbeta med handskrivna anteckningar från utsändare och bokföringshandlingar från Thomas Edisons tid.

"Vi fick mer noggrannhet från enkla klassiska statistiktekniker och en bättre förståelse av data när vi fortsatte att arbeta med dem," sa Rudin. "Om vi kunde förstå vilken information de prediktiva modellerna använde, kunde vi be Con Edisons ingenjörer om användbar feedback som förbättrade hela vår process. Det var tolkningsbarheten i processen som hjälpte till att förbättra noggrannheten i våra förutsägelser, inte någon större eller finare maskininlärningsmodell. Det var det jag bestämde mig för att arbeta med, och det är grunden som mitt labb är byggt på.” https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque

Under det kommande decenniet utvecklade Rudin tekniker för tolkningsbar maskininlärning, som är prediktiva modeller som förklarar sig själva på sätt som människor kan förstå. Även om koden för att utforma dessa formler är komplex och sofistikerad, kan formlerna vara tillräckligt små för att skrivas på några rader på ett registerkort.

Rudin har tillämpat sitt varumärke för tolkningsbar maskininlärning på många effektfulla projekt. Tillsammans med samarbetspartnerna Brandon Westover och Aaron Struck vid Massachusetts General Hospital, och hennes tidigare student Berk Ustun, designade hon ett enkelt punktbaserat system som kan förutsäga vilka patienter som löper störst risk att få destruktiva anfall efter en stroke eller annan hjärnskada. Och tillsammans med sin tidigare MIT-student Tong Wang och Cambridge Police Department utvecklade hon en modell som hjälper till att upptäcka gemensamma drag mellan brott för att avgöra om de kan vara en del av en serie som begåtts av samma brottslingar. Det öppna källkodsprogrammet blev så småningom grunden för New York Police Departments Patternizr-algoritm, en kraftfull kod som avgör om ett nytt brott som begåtts i staden är relaterat till tidigare brott.

"Cynthias engagemang för att lösa viktiga verkliga problem, önskan att arbeta nära domänexperter och förmåga att destillera och förklara komplexa modeller är oöverträffad", säger Daniel Wagner, biträdande chef för Cambridge Police Department. ”Hennes forskning resulterade i betydande bidrag till området brottsanalys och polisarbete. Mer imponerande är att hon är en stark kritiker av potentiellt orättvisa "black box"-modeller inom straffrätt och andra områden med hög insats, och en intensiv förespråkare för transparenta tolkbara modeller där korrekta, rättvisa och partiska resultat är avgörande."

Black box-modeller är motsatsen till Rudins transparenta koder. Metoderna som används i dessa AI-algoritmer gör det omöjligt för människor att förstå vilka faktorer modellerna beror på, vilka data modellerna fokuserar på och hur de använder dem. Även om detta kanske inte är ett problem för triviala uppgifter som att skilja en hund från en katt, kan det vara ett stort problem för beslut med hög insats som förändrar människors liv.

"Cynthias engagemang för att lösa viktiga verkliga problem, önskan att arbeta nära domänexperter och förmåga att destillera och förklara komplexa modeller är oöverträffad. Hennes forskning resulterade i betydande bidrag till området brottsanalys och polisarbete. Mer imponerande är att hon är en stark kritiker av potentiellt orättvisa "black box"-modeller inom straffrätt och andra områden med hög insats, och en intensiv förespråkare för transparenta tolkbara modeller där korrekta, rättvisa och partiska resultat är avgörande."

DANIEL WAGNER

"Cynthia förändrar landskapet för hur AI används i samhälleliga tillämpningar genom att omdirigera ansträngningar bort från svarta lådmodeller och mot tolkningsbara modeller genom att visa att den konventionella visdomen - att svarta lådor vanligtvis är mer exakta - mycket ofta är falsk," sa Jun Yang , ordförande för datavetenskapsavdelningen vid Duke. "Detta gör det svårare att rättfärdiga att utsätta individer (som åtalade) för svarta låda-modeller i situationer med hög insats. Tolkbarheten av Cynthias modeller har varit avgörande för att få dem antagna i praktiken, eftersom de möjliggör mänskliga beslutsfattare snarare än att ersätta dem.”

Ett slagkraftigt exempel involverar COMPAS – en AI-algoritm som används i flera stater för att fatta beslut om villkorlig frigivning som anklagades av en ProPublica-utredning för att delvis använda ras som en faktor i sina beräkningar. Anklagelsen är dock svår att bevisa, eftersom detaljerna i algoritmen är proprietär information, och vissa viktiga aspekter av analysen av ProPublica är tveksamma. Rudins team har visat att en enkel tolkningsbar modell som avslöjar exakt vilka faktorer den tar i beaktande är lika bra på att förutsäga om en person kommer att begå ett annat brott eller inte. Detta väcker frågan, säger Rudin, om varför black box-modeller överhuvudtaget behöver användas för dessa typer av höginsatsbeslut.

Förändringshastigheten · Öppnar den svarta lådan

"Vi har systematiskt visat att för applikationer med hög insats, finns det ingen förlust i noggrannhet för att få tolkningsbarhet, så länge vi optimerar våra modeller noggrant," sa Rudin. "Vi har sett detta för straffrättsliga beslut, många hälsovårdsbeslut, inklusive medicinsk bildbehandling, beslut om underhåll av elnät, beslut om finansiella lån och mer. Att veta att detta är möjligt förändrar hur vi tänker om AI som oförmögen att förklara sig själv.”

Under hela sin karriär har Rudin inte bara skapat dessa tolkbara AI-modeller, utan även utvecklat och publicerat tekniker för att hjälpa andra att göra detsamma. Det har inte alltid varit lätt. När hon först började publicera sitt arbete fanns inte termerna "datavetenskap" och "tolkbar maskininlärning", och det fanns inga kategorier som hennes forskning passade in i, vilket betyder att redaktörer och recensenter inte visste vad de skulle göra med Det. Cynthia fann att om ett papper inte bevisade teorem och hävdade att dess algoritmer var mer exakta, var det - och är ofta fortfarande - svårare att publicera.

"Jag har haft enorm beundran för Cynthia från mycket tidigt, för hennes anda av självständighet, hennes beslutsamhet och hennes obevekliga strävan efter sann förståelse för allt nytt som hon stött på i klasser och tidningar. Redan som doktorand var hon en samhällsbyggare och stod upp för andra i sin kohort.”

INGRID DAUBECHIES

När Rudin fortsätter att hjälpa människor och publicera hennes tolkningsbara design – och allt eftersom fler bekymmer fortsätter att dyka upp med black box-kod – börjar hennes inflytande äntligen vända skeppet. Det finns nu hela kategorier i maskininlärningstidskrifter och konferenser som ägnas åt tolkningsbart och tillämpat arbete. Andra kollegor på området och deras medarbetare uttrycker hur viktig tolkningsbarhet är för att designa pålitliga AI-system.

"Jag har haft enorm beundran för Cynthia från mycket tidigt, för hennes anda av självständighet, hennes beslutsamhet och hennes obevekliga strävan efter sann förståelse för allt nytt hon stött på i klasser och tidningar", säger Ingrid Daubechies, James B. Duke Distinguished Professor i matematik och elektro- och datateknik, en av världens framstående forskare inom signalbehandling och en av Rudins doktorandrådgivare vid Princeton University. "Även som doktorand var hon en samhällsbyggare och stod upp för andra i sin kohort. Hon fick mig in i maskininlärning, eftersom det inte var ett område där jag hade någon expertis alls innan hon försiktigt men mycket ihärdigt knuffade in mig i det. Jag är så mycket glad för detta underbara och mycket välförtjänta erkännande för henne!”

"Jag kunde inte vara mer förtjust över att se Cynthias arbete hedrade på det här sättet", tillade Rudins andra doktorandrådgivare, Microsoft Research-partnern Robert Schapire, vars arbete med att "boosta" hjälpte till att lägga grunden för modern maskininlärning. "För hennes inspirerande och insiktsfulla forskning, hennes självständiga tänkande som har lett henne i riktningar som skiljer sig mycket från det vanliga, och för hennes långvariga uppmärksamhet på frågor och problem av praktisk, samhällelig betydelse."

Rudin tog grundexamen i matematisk fysik och musikteori från universitetet i Buffalo innan hon avslutade sin doktorsexamen i tillämpad och beräkningsmatematik vid Princeton. Hon arbetade sedan som National Science Foundation-postdoktor vid New York University och som associerad forskare vid Columbia University. Hon blev docent i statistik vid Massachusetts Institute of Technology innan hon började på Dukes fakultet 2017, där hon innehar utnämningar inom datavetenskap, elektro- och datateknik, biostatistik och bioinformatik och statistisk vetenskap.

Hon är trefaldig mottagare av INFORMS Innovative Applications in Analytics Award, som erkänner kreativa och unika tillämpningar av analytiska tekniker, och är en Fellow i American Statistical Association och Institute of Mathematical Statistics.

"Jag vill tacka AAAI och Squirrel AI för att de skapat den här utmärkelsen som jag vet kommer att förändra spelet på fältet," sa Rudin. "Att ha ett "Nobelpris" för AI för att hjälpa samhället gör det äntligen klart utan tvekan att detta ämne – AI arbetar till gagn för samhället – faktiskt är viktigt.”

(C) Duke University 

Ursprunglig källa: WRAL TechWire