Duke tietojenkäsittelytieteilijä voitti $1M:n arvoisen Nobel-palkinnon tekoälytyöstä
Julkaisupäivä:Kirjailija: Ken Kingery
Olipa kyse sähköverkoissa tapahtuvien räjähdysten estämisestä, aiempien rikosten havaitsemisesta tai resurssien optimoinnista kriittisesti sairaiden potilaiden hoidossa, Duke Universityn tietojenkäsittelytieteilijä Cynthia Rudin haluaa tekoälyn näyttävän työnsä. Varsinkin kun se tekee päätöksiä, jotka vaikuttavat syvästi ihmisten elämään.
Vaikka monet koneoppimisen kehittyvän alan tutkijat keskittyivät algoritmien parantamiseen, Rudin halusi sen sijaan käyttää tekoälyn voimaa yhteiskunnan auttamiseksi. Hän päätti etsiä mahdollisuuksia soveltaa koneoppimistekniikoita tärkeisiin yhteiskunnallisiin ongelmiin, ja prosessissa hän tajusi, että tekoälyn potentiaali vapautuu parhaiten, kun ihmiset voivat kurkata sisään ja ymmärtää, mitä se tekee.
Nyt, kun 15 vuotta on puolustanut ja kehittänyt "tulkinnallisia" koneoppimisalgoritmeja, jotka mahdollistavat ihmisten näkemisen tekoälyn sisään, Rudinin panos alalla on ansainnut hänelle $1 miljoonan orava-AI-palkinnon tekoälystä ihmiskunnan hyödyksi. tekoälyn kehittyminen (AAAI). Vuonna 1979 perustettu AAAI toimii merkittävänä kansainvälisenä tiedeyhteisönä, joka palvelee tekoälyn tutkijoita, harjoittajia ja kouluttajia.
"Vain maailmankuulut tunnustukset, kuten Nobel-palkinto ja AM Turing -palkinto Computing Machineryn liitolta, tuottavat miljoonan dollarin rahapalkinnot. Professori Rudinin työ korostaa läpinäkyvyyden tärkeyttä tekoälyjärjestelmille korkean riskin aloilla. Hänen rohkeutensa käsitellä kiistanalaisia kysymyksiä korostaa tutkimuksen tärkeyttä, jotta voidaan vastata kriittisiin haasteisiin tekoälyn vastuullisessa ja eettisessä käytössä.
YOLANDA GIL
Duken tietojenkäsittelytieteen ja tekniikan professori Rudin on toinen verkkokoulutusyrityksen Squirrel AI:n rahoittaman uuden vuotuisen palkinnon saaja. Palkinto tunnustetaan tekoälyn saavutuksista perinteisempien alojen huippupalkintoihin verrattavalla tavalla.
Häntä mainitaan "uraauurtavasta tieteellisestä työstä tulkittavien ja läpinäkyvien tekoälyjärjestelmien alalla tosielämässä, näiden ominaisuuksien puolustamisesta erittäin herkillä aloilla, kuten sosiaalinen oikeudenmukaisuus ja lääketieteellinen diagnoosi, sekä toimimisesta roolimallina tutkijoille ja harjoittajat.”
"Ainoastaan maailmankuulut tunnustukset, kuten Nobel-palkinto ja AM Turing -palkinto Computing Machineryn liitolta, tuottavat miljoonan dollarin rahapalkinnot", sanoi AAAI:n palkintokomitean puheenjohtaja ja entinen presidentti Yolanda Gil. ”Professori Rudinin työ korostaa läpinäkyvyyden tärkeyttä AI-järjestelmien korkean riskin aloilla. Hänen rohkeutensa käsitellä kiistanalaisia kysymyksiä korostaa tutkimuksen tärkeyttä, jotta voidaan vastata kriittisiin haasteisiin tekoälyn vastuullisessa ja eettisessä käytössä.
Rudinin ensimmäinen sovellettu projekti oli yhteistyö Con Edisonin, energiayhtiön kanssa, joka vastasi New Yorkin sähkönlähteestä. Hänen tehtävänsä oli käyttää koneoppimista ennustamaan, mitkä kaivot olivat vaarassa räjähtää huonontuvien ja ylikuormitettujen sähköpiirien vuoksi. Mutta hän huomasi pian, että riippumatta siitä, kuinka monta äskettäin julkaistua akateemista kelloa ja pilliä hän lisäsi koodiinsa, sillä oli vaikeuksia parantaa suorituskykyä merkittävästi, kun hän kohtasi haasteet, joita aiheutti työskentely lähettäjien käsinkirjoitettujen muistiinpanojen ja Thomas Edisonin kirjanpitotietojen kanssa.
"Saimme enemmän tarkkuutta yksinkertaisista klassisista tilastotekniikoista ja parempaa ymmärrystä tiedoista, kun jatkoimme työskentelyä niiden parissa", Rudin sanoi. "Jos ymmärtäisimme, mitä tietoa ennustavat mallit käyttivät, voisimme pyytää Con Edisonin insinööreiltä hyödyllistä palautetta, joka paransi koko prosessiamme. Prosessin tulkittavuus auttoi parantamaan ennusteidemme tarkkuutta, ei mikään suurempi tai hienompi koneoppimismalli. Sitä päätin työstää, ja se on perusta, jolle laboratorioni on rakennettu." https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque
Seuraavan vuosikymmenen aikana Rudin kehitti tulkittavan koneoppimisen tekniikoita, jotka ovat ennustavia malleja, jotka selittävät itsensä ihmisten ymmärtämällä tavalla. Vaikka näiden kaavojen suunnittelukoodi on monimutkainen ja hienostunut, kaavat voivat olla tarpeeksi pieniä kirjoitettavaksi muutamalla rivillä arkistokorttiin.
Rudin on soveltanut tulkittavan koneoppimisen brändiään lukuisissa vaikuttavissa projekteissa. Massachusettsin yleissairaalassa työskentelevien Brandon Westoverin ja Aaron Struckin sekä entisen oppilaansa Berk Ustunin kanssa hän suunnitteli yksinkertaisen pistepohjaisen järjestelmän, joka voi ennustaa, mitkä potilaat ovat eniten vaarassa saada tuhoisia kohtauksia aivohalvauksen tai muun aivovamman jälkeen. Ja entisen MIT-opiskelijansa Tong Wangin ja Cambridgen poliisilaitoksen kanssa hän kehitti mallin, joka auttaa löytämään yhteisiä piirteitä rikosten välillä ja määrittämään, voivatko ne olla osa samojen rikollisten sarjaa. Tästä avoimen lähdekoodin ohjelmasta tuli lopulta New Yorkin poliisilaitoksen Patternizr-algoritmin perusta, joka on tehokas koodinpala, joka määrittää, liittyykö kaupungissa tehty uusi rikos menneisiin rikoksiin.
"Cynthian sitoutuminen tärkeiden reaalimaailman ongelmien ratkaisemiseen, halu tehdä tiivistä yhteistyötä alan asiantuntijoiden kanssa ja kyky tislata ja selittää monimutkaisia malleja on vertaansa vailla", sanoi Daniel Wagner, Cambridgen poliisilaitoksen apulaisjohtaja. "Hänen tutkimustyönsä tuotti merkittävän panoksen rikosanalyysin ja poliisitoiminnan alalla. Vielä vaikuttavampaa on, että hän arvostelee voimakkaasti mahdollisesti epäoikeudenmukaisia "mustan laatikon" malleja rikosoikeudessa ja muilla korkean panoksen aloilla ja intensiivisesti puolustaa läpinäkyviä tulkittavia malleja, joissa tarkat, oikeudenmukaiset ja puolueettomat tulokset ovat välttämättömiä.
Black box -mallit ovat Rudinin läpinäkyvien koodien vastakohta. Näissä tekoälyalgoritmeissa käytetyt menetelmät tekevät ihmisille mahdotonta ymmärtää, mistä tekijöistä mallit riippuvat, mihin tietoihin mallit keskittyvät ja miten ne käyttävät sitä. Vaikka tämä ei ehkä ole ongelma vähäpätöisissä tehtävissä, kuten koiran erottamisessa kissasta, se voi olla valtava ongelma suurissa panoksissa päätöksissä, jotka muuttavat ihmisten elämää.
”Cynthian sitoutuminen tärkeiden todellisten ongelmien ratkaisemiseen, halu tehdä tiivistä yhteistyötä alan asiantuntijoiden kanssa sekä kyky tislata ja selittää monimutkaisia malleja on vertaansa vailla. Hänen tutkimuksensa tuotti merkittävän panoksen rikosanalyysin ja poliisitoiminnan alalla. Vielä vaikuttavampaa on, että hän arvostelee voimakkaasti mahdollisesti epäoikeudenmukaisia "mustan laatikon" malleja rikosoikeudessa ja muilla korkean panoksen aloilla ja intensiivisesti puolustaa läpinäkyviä tulkittavia malleja, joissa tarkat, oikeudenmukaiset ja puolueettomat tulokset ovat välttämättömiä.
DANIEL WAGNER
"Cynthia muuttaa tekoälyn käyttöä yhteiskunnallisissa sovelluksissa suuntaamalla ponnistelut pois mustien laatikoiden malleista tulkittavissa oleviin malleihin osoittamalla, että perinteinen viisaus - että mustat laatikot ovat tyypillisesti tarkempia - on hyvin usein väärä", Jun Yang sanoi. , Duken tietojenkäsittelytieteen osaston puheenjohtaja. "Tämä tekee vaikeammaksi perustella yksilöiden (kuten syytettyjen) alistamista black-box-malleille korkean panoksen tilanteissa. Cynthian mallien tulkittavuus on ollut ratkaisevaa niiden omaksumisessa käytännössä, sillä ne mahdollistavat ihmisten päätöksentekijät, eivät korvaa niitä.
Yksi vaikuttava esimerkki on COMPAS – tekoälyalgoritmi, jota käytetään useissa osavaltioissa takuita koskevien ehdonalaispäätösten tekemiseen ja jota ProPublica-tutkimuksessa syytettiin siitä, että se käyttää osittain rotua tekijänä laskelmissaan. Syytöstä on kuitenkin vaikea todistaa, koska algoritmin yksityiskohdat ovat omistusoikeudellisia tietoja ja ProPublican analyysin eräät tärkeät näkökohdat ovat kyseenalaisia. Rudinin tiimi on osoittanut, että yksinkertainen tulkittava malli, joka paljastaa tarkalleen, mitkä tekijät se ottaa huomioon, on yhtä hyvä ennustaa, tekeekö henkilö uuden rikoksen vai ei. Tämä herättää kysymyksen, Rudin sanoo, miksi mustan laatikon malleja ylipäänsä tarvitsee käyttää tällaisiin korkean panoksen päätöksiin.
Muutoksen tahti · Mustan laatikon avaaminen
"Olemme järjestelmällisesti osoittaneet, että korkean panoksen sovelluksissa tarkkuus ei menetä tulkittavuuden saavuttamista, kunhan optimoimme mallimme huolellisesti", Rudin sanoi. "Olemme nähneet tämän rikosoikeudellisten päätösten, lukuisten terveydenhuoltopäätösten, mukaan lukien lääketieteellisen kuvantamisen, sähköverkon ylläpitopäätösten, rahoituslainapäätösten ja muiden osalta. Tietäminen, että tämä on mahdollista, muuttaa tapaa, jolla ajattelemme tekoälystä kyvyttömänä selittämään itseään."
Koko uransa ajan Rudin ei ole vain luonut näitä tulkittavia tekoälymalleja, vaan myös kehittänyt ja julkaissut tekniikoita auttaakseen muita tekemään samoin. Se ei ole aina ollut helppoa. Kun hän aloitti työnsä julkaisemisen, termejä "tietotiede" ja "tulkinnallinen koneoppiminen" ei ollut olemassa, eikä hänen tutkimuksensa sopinut kategorioihin, mikä tarkoittaa, että toimittajat ja arvioijat eivät tienneet mitä tehdä se. Cynthia havaitsi, että jos paperi ei todistanut lauseita ja väittäen algoritminsa olevan tarkempi, sen julkaiseminen oli ja on usein edelleenkin vaikeampaa.
”Olen ihaillut Cynthiaa aivan varhaisesta lähtien valtavasti hänen itsenäisyyden hengestään, päättäväisyydestään ja hänen hellittämättömästä pyrkimyksestään ymmärtää kaikkea uutta, mitä hän kohtasi luokissa ja papereissa. Hän oli myös jatko-opiskelijana yhteisön rakentaja, joka puolusti muita kohorttiaan."
INGRID DAUBECHIES
Kun Rudin jatkaa ihmisten auttamista ja tulkittavien suunnitelmiensa julkaisemista – ja mustan laatikon koodin kanssa ilmaantuu yhä enemmän huolia – hänen vaikutuksensa alkaa vihdoin kääntää laivan. Koneoppimislehdissä ja konferensseissa on nyt kokonaisia kategorioita, jotka on omistettu tulkittavalle ja soveltavalle työlle. Muut alan kollegat ja heidän yhteistyökumppaninsa korostavat, kuinka tärkeää tulkittavuus on luotettavien tekoälyjärjestelmien suunnittelussa.
"Olen ihaillut Cynthiaa aivan varhaisesta lähtien valtavasti hänen itsenäisyyden hengestään, päättäväisyydestään ja hänen hellittämättömästä pyrkimyksestään ymmärtää kaikkea uutta, mitä hän kohtasi luokissa ja papereissa", sanoi Ingrid Daubechies, James B. Duke Distinguished. Matematiikan sekä sähkö- ja tietokonetekniikan professori, yksi maailman merkittävimmistä signaalinkäsittelyn tutkijoista ja yksi Rudinin PhD-neuvonantajista Princetonin yliopistossa. "Jatko-opiskelijana hän oli yhteisön rakentaja ja puolusti muita kohorttissaan. Hän sai minut koneoppimiseen, koska se ei ollut ala, jolla minulla ei ollut mitään asiantuntemusta, ennen kuin hän varovasti mutta erittäin sinnikkäästi työnsi minut siihen. Olen niin iloinen tästä upeasta ja erittäin ansaitusta tunnustuksesta hänelle!”
"En voisi olla innoissani nähdessäni Cynthian työtä tällä tavalla", lisäsi Rudinin toinen PhD-neuvoja, Microsoft Research -kumppani Robert Schapire, jonka "tehostaminen" auttoi luomaan perustan nykyaikaiselle koneoppimiselle. "Hänen inspiroivasta ja oivaltavasta tutkimuksestaan, itsenäisestä ajattelustaan, joka on johtanut hänet valtavirrasta hyvin erilaisiin suuntiin, ja hänen pitkäaikaisesta huomiostaan käytännön, yhteiskunnallisesti tärkeisiin kysymyksiin ja ongelmiin."
Rudin suoritti matemaattisen fysiikan ja musiikin teorian perustutkintoa Buffalon yliopistosta ennen kuin suoritti tohtorintutkintonsa soveltavasta ja laskennallisesta matematiikasta Princetonissa. Hän työskenteli sitten National Science Foundationin post doc -tutkijana New Yorkin yliopistossa ja apulaistutkijana Columbian yliopistossa. Hänestä tuli tilastotieteen apulaisprofessori Massachusetts Institute of Technologyssa ennen kuin hän liittyi Duken tiedekuntaan vuonna 2017, jossa hän työskentelee tietojenkäsittelytieteen, sähkö- ja tietokonetekniikan, biostatistian ja bioinformatiikan sekä tilastotieteen aloilla.
Hän on saanut kolme kertaa INFORMS Innovative Applications in Analytics Award -palkinnon, joka tunnustaa analyyttisten tekniikoiden luovat ja ainutlaatuiset sovellukset. Hän on myös American Statistical Associationin ja Institute of Mathematical Statisticsin stipendiaatti.
"Haluan kiittää AAAI:ta ja Squirrel AI:tä tämän palkinnon luomisesta, jonka tiedän muuttavan kentän", Rudin sanoi. "Nobelin palkinto tekoälylle yhteiskunnan auttamiseksi tekee vihdoin selväksi, että tämä aihe – tekoälytyö yhteiskunnan hyväksi – on todella tärkeä."
(C) Duken yliopisto
Alkuperäinen lähde: WRAL TechWire