듀크 컴퓨터 과학자, 인공지능 연구로 $1M 상당의 '노벨상' 수상
게시 날짜:켄 킹제리
듀크 대학의 컴퓨터 과학자인 Cynthia Rudin은 전력망 폭발을 방지하고, 과거 범죄의 패턴을 찾아내고, 중증 환자 치료에 필요한 자원을 최적화하는 등 인공 지능(AI)이 자신의 작업을 보여주기를 원합니다. 특히 사람들의 삶에 깊은 영향을 미치는 결정을 내릴 때는 더욱 그렇습니다.
기계 학습 개발 분야의 많은 학자들이 알고리즘 개선에 초점을 맞춘 반면, Rudin은 AI의 힘을 사회에 도움이 되는 데 사용하기를 원했습니다. 그녀는 중요한 사회 문제에 머신러닝 기술을 적용할 수 있는 기회를 추구하기로 결정했으며, 그 과정에서 AI의 잠재력은 인간이 내부를 들여다보고 AI가 수행하는 작업을 이해할 수 있을 때 가장 잘 발휘된다는 것을 깨달았습니다.
이제 인간이 AI 내부를 볼 수 있도록 하는 "해석 가능한" 기계 학습 알고리즘을 옹호하고 개발한 지 15년이 지난 지금, Rudin은 이 분야에 기여한 공로로 협회로부터 인류의 이익을 위한 인공 지능 부문에서 $1백만 다람쥐 AI 상을 받았습니다. 인공지능발전(AAAI). 1979년에 설립된 AAAI는 AI 연구자, 실무자, 교육자를 대상으로 활동하는 저명한 국제 과학 학회입니다.
“노벨상, 컴퓨팅 기계 협회의 AM 튜링상 등 세계적으로 유명한 수상작만이 백만 달러 수준의 금전적 보상을 받을 수 있습니다. Rudin 교수의 연구는 고위험 영역에서 AI 시스템의 투명성이 얼마나 중요한지 강조합니다. 논쟁의 여지가 있는 문제를 다루는 그녀의 용기는 AI의 책임감 있고 윤리적인 사용에 대한 중요한 과제를 해결하기 위한 연구의 중요성을 강조합니다.”
욜란다 길
듀크 대학의 컴퓨터 과학 및 공학 교수인 루딘(Rudin)은 온라인 교육 회사인 Squirrel AI가 자금을 지원하는 새로운 연례 상의 두 번째 수상자로, 전통적인 분야의 최고 상과 비슷한 방식으로 인공 지능 분야의 성과를 인정합니다.
그녀는 “실제 배포에서 해석 가능하고 투명한 AI 시스템 분야의 선구적인 과학적 작업, 사회 정의 및 의료 진단과 같은 매우 민감한 영역에서 이러한 기능을 옹호하고 연구원 및 실무자.”
AAAI 상 위원회 의장이자 전 회장인 Yolanda Gil은 "노벨상, 컴퓨터 기계 협회의 AM Turing 상과 같이 세계적으로 유명한 수상작만이 백만 달러 수준의 금전적 보상을 받을 수 있습니다."라고 말했습니다. “Rudin 교수의 연구는 고위험 영역에서 AI 시스템의 투명성이 얼마나 중요한지 강조합니다. 논쟁의 여지가 있는 문제를 다루는 그녀의 용기는 AI의 책임감 있고 윤리적인 사용에 대한 중요한 과제를 해결하기 위한 연구의 중요성을 강조합니다.”
Rudin의 첫 번째 응용 프로젝트는 뉴욕시에 전력을 공급하는 에너지 회사인 Con Edison과의 협력이었습니다. 그녀의 임무는 기계 학습을 사용하여 어떤 맨홀이 성능 저하 및 과부하된 전기 회로로 인해 폭발할 위험이 있는지 예측하는 것이었습니다. 그러나 그녀는 새로 출판된 학문적 부가 기능을 자신의 코드에 아무리 많이 추가하더라도 Thomas Edison 시대의 파견 담당자가 손으로 쓴 메모와 회계 기록을 사용하여 작업해야 하는 문제에 직면했을 때 의미 있는 성능 향상에 어려움을 겪는다는 사실을 곧 알게 되었습니다.
Rudin은 “우리는 계속해서 작업하면서 단순한 고전적 통계 기법을 통해 정확도가 높아지고 데이터에 대한 이해가 향상되었습니다.”라고 말했습니다. “예측 모델이 어떤 정보를 사용하고 있는지 이해할 수 있다면 Con Edison 엔지니어에게 전체 프로세스를 개선하는 유용한 피드백을 요청할 수 있습니다. 예측의 정확성을 높이는 데 도움이 된 것은 더 크거나 더 멋진 기계 학습 모델이 아니라 프로세스의 해석 가능성이었습니다. 그것이 제가 작업하기로 결정한 것이며 이것이 제 연구실이 세워지는 기반입니다.”https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque
다음 10년 동안 Rudin은 인간이 이해할 수 있는 방식으로 자신을 설명하는 예측 모델인 해석 가능한 기계 학습 기술을 개발했습니다. 이러한 수식을 디자인하는 코드는 복잡하고 정교하지만 수식은 인덱스 카드에 몇 줄로 작성할 수 있을 만큼 작을 수 있습니다.
Rudin은 해석 가능한 기계 학습 브랜드를 수많은 영향력 있는 프로젝트에 적용했습니다. 매사추세츠 종합병원의 Brandon Westover, Aaron Struck, 그리고 그녀의 전 학생인 Berk Ustun과 함께 그녀는 뇌졸중이나 기타 뇌 손상 후 파괴적 발작을 일으킬 위험이 가장 높은 환자를 예측할 수 있는 간단한 포인트 기반 시스템을 설계했습니다. 그리고 전 MIT 학생인 Tong Wang 및 케임브리지 경찰서와 함께 그녀는 범죄 간의 공통점을 발견하여 해당 범죄가 동일한 범죄자가 저지른 일련의 범죄에 속할지 여부를 판단하는 데 도움이 되는 모델을 개발했습니다. 해당 오픈 소스 프로그램은 결국 뉴욕 경찰국의 Patternizr 알고리즘의 기초가 되었습니다. 이는 도시에서 발생한 새로운 범죄가 과거 범죄와 관련이 있는지 여부를 결정하는 강력한 코드입니다.
캠브리지 경찰국 부국장인 Daniel Wagner는 "중요한 실제 문제를 해결하려는 Cynthia의 헌신, 분야 전문가와 긴밀히 협력하려는 열망, 복잡한 모델을 정제하고 설명하는 능력은 타의 추종을 불허합니다"라고 말했습니다. “그녀의 연구는 범죄 분석 및 치안 분야에 상당한 공헌을 했습니다. 더욱 인상적으로 그녀는 형사 사법 및 기타 고위험 분야에서 잠재적으로 부당할 수 있는 '블랙박스' 모델에 대한 강력한 비판자이며, 정확하고 공정하며 편견 없는 결과가 필수적인 투명하고 해석 가능한 모델을 강력히 옹호하고 있습니다.”
블랙박스 모델은 루딘의 투명코드와 정반대이다. 이러한 AI 알고리즘에 적용된 방법은 모델이 어떤 요소에 의존하는지, 모델이 어떤 데이터에 집중하고 있는지, 어떻게 사용하고 있는지 인간이 이해하는 것을 불가능하게 만듭니다. 개와 고양이를 구별하는 것과 같은 사소한 작업에서는 이것이 문제가 되지 않을 수 있지만, 사람들의 삶을 바꾸는 중대한 결정에는 큰 문제가 될 수 있습니다.
“중요한 실제 문제를 해결하려는 Cynthia의 헌신, 분야 전문가와 긴밀히 협력하려는 열망, 복잡한 모델을 정제하고 설명하는 능력은 타의 추종을 불허합니다. 그녀의 연구는 범죄 분석 및 치안 분야에 상당한 공헌을 했습니다. 더욱 인상적으로 그녀는 형사 사법 및 기타 고위험 분야에서 잠재적으로 부당할 수 있는 '블랙박스' 모델에 대한 강력한 비판자이며, 정확하고 공정하며 편견 없는 결과가 필수적인 투명하고 해석 가능한 모델을 강력히 옹호하고 있습니다.”
다니엘 바그너
"Cynthia는 블랙박스 모델에서 해석 가능한 모델로 노력을 방향을 전환함으로써 블랙박스가 일반적으로 더 정확하다는 기존 통념이 거짓인 경우가 많다는 점을 보여줌으로써 사회 응용 프로그램에서 AI가 사용되는 방식의 환경을 바꾸고 있습니다."라고 Jun Yang은 말했습니다. , 듀크 대학교 컴퓨터 공학과 학과장. “이것은 위험이 큰 상황에서 개인(예: 피고인)을 블랙박스 모델에 적용하는 것을 정당화하기 어렵게 만듭니다. Cynthia 모델의 해석 가능성은 모델을 대체하는 것이 아니라 인간 의사 결정자를 활성화하기 때문에 모델을 실제로 채택하는 데 매우 중요했습니다.”
영향력 있는 사례 중 하나는 COMPAS입니다. 이는 여러 주에서 보석 가석방 결정을 내리기 위해 사용되는 AI 알고리즘입니다. 이 알고리즘은 ProPublica 조사에서 계산의 요소로 인종을 부분적으로 사용했다는 비난을 받았습니다. 그러나 알고리즘의 세부 사항은 독점 정보이고 ProPublica 분석의 일부 중요한 측면이 의심스럽기 때문에 이러한 비난을 입증하기는 어렵습니다. 루딘 팀은 어떤 요인을 고려하고 있는지 정확하게 보여주는 간단하고 해석 가능한 모델이 사람이 다른 범죄를 저지를지 여부를 예측하는 데에도 효과적이라는 것을 입증했습니다. Rudin은 이러한 유형의 고위험 결정에 블랙박스 모델을 사용해야 하는 이유에 대한 질문을 던진다고 말합니다.
Rudin은 “우리는 고부담 애플리케이션의 경우 모델을 신중하게 최적화하는 한 해석 가능성을 얻기 위해 정확도가 손실되지 않는다는 것을 체계적으로 보여 왔습니다.”라고 말했습니다. “우리는 형사 사법 결정, 의료 영상, 전력망 유지 관리 결정, 금융 대출 결정 등을 포함한 수많은 의료 결정에서 이러한 현상을 확인했습니다. 이것이 가능하다는 사실을 알면 AI가 스스로 설명할 수 없다고 생각하는 방식이 바뀌게 됩니다.”
그녀의 경력 전반에 걸쳐 Rudin은 이러한 해석 가능한 AI 모델을 만들었을 뿐만 아니라 다른 사람들도 같은 작업을 수행할 수 있도록 기술을 개발하고 게시했습니다. 그것이 항상 쉬운 일은 아니었습니다. 그녀가 처음 작품을 출판하기 시작했을 때 '데이터 과학'과 '해석 가능한 기계 학습'이라는 용어는 존재하지 않았고, 그녀의 연구가 딱 들어맞는 카테고리도 없었습니다. 이는 편집자와 리뷰어가 무엇을 해야 할지 몰랐다는 것을 의미합니다. 그것. Cynthia는 논문이 정리를 증명하지 않고 알고리즘이 더 정확하다고 주장하지 않으면 출판하기가 더 어렵다는 사실을 발견했습니다.
“저는 아주 어릴 때부터 Cynthia의 독립 정신, 결단력, 그리고 수업과 논문에서 접하는 모든 새로운 것에 대한 진정한 이해를 향한 끊임없는 추구에 대해 엄청난 존경심을 갖고 있었습니다. 대학원생이면서도 그녀는 동료 집단의 다른 사람들을 옹호하는 커뮤니티 구축자였습니다.”
잉그리드 도베치스
Rudin이 계속해서 사람들을 돕고 그녀의 해석 가능한 디자인을 게시함에 따라 그리고 블랙박스 코드에 대한 더 많은 우려가 계속해서 발생함에 따라 그녀의 영향력은 마침내 배를 뒤집기 시작했습니다. 이제 해석 가능하고 응용 가능한 작업에 전념하는 기계 학습 저널 및 컨퍼런스에는 전체 카테고리가 있습니다. 현장의 다른 동료들과 협력자들은 신뢰할 수 있는 AI 시스템을 설계하는 데 해석성이 얼마나 중요한지 목소리를 높이고 있습니다.
James B. Duke Distinguished인 Ingrid Daubechies는 “저는 아주 어릴 때부터 Cynthia의 독립 정신, 결단력, 그리고 수업과 논문에서 접하는 모든 새로운 것에 대한 진정한 이해를 끊임없이 추구하는 것에 대해 엄청난 존경심을 느꼈습니다.”라고 말했습니다. 신호 처리 분야의 세계 최고의 연구자 중 한 명이자 프린스턴 대학의 Rudin 박사 고문 중 한 명인 수학, 전기 및 컴퓨터 공학 교수입니다. “대학원생이면서도 그녀는 동료 집단의 다른 사람들을 옹호하는 커뮤니티 구축자였습니다. 그녀는 나를 기계 학습으로 이끌었습니다. 왜냐하면 그녀가 부드럽지만 끈질기게 저를 이 분야로 밀어넣기 전까지는 제가 전혀 전문 지식을 갖고 있지 않았던 분야였기 때문입니다. 저는 그녀가 이렇게 훌륭하고 합당한 인정을 받게 되어 매우 기쁩니다!”
Rudin의 두 번째 박사 고문이자 Microsoft Research 파트너인 Robert Schapire는 "Cynthia의 작업이 이런 방식으로 영예를 얻게 되어 매우 기쁩니다. 그는 "부스팅" 작업을 통해 현대 기계 학습의 토대를 마련했습니다. "그녀의 영감을 주고 통찰력 있는 연구, 주류와는 매우 다른 방향으로 그녀를 이끈 독립적인 사고, 그리고 실용적이고 사회적으로 중요한 문제에 대한 그녀의 오랜 관심 덕분입니다."
Rudin은 University at Buffalo에서 수학 물리학 및 음악 이론 학사 학위를 취득한 후 Princeton에서 응용 및 전산 수학 박사 학위를 취득했습니다. 그 후 그녀는 뉴욕 대학교에서 국립 과학 재단 박사후 연구원으로 일했고, 컬럼비아 대학교에서 부연구 과학자로 일했습니다. 그녀는 매사추세츠 공과대학 통계학 부교수를 거쳐 2017년 듀크 대학교에 합류하여 컴퓨터 과학, 전기 및 컴퓨터 공학, 생물통계학, 생물정보학, 통계학 분야에서 근무하고 있습니다.
그녀는 분석 기술의 창의적이고 독특한 적용을 인정하는 INFORMS Innovative Application in Analytics Award를 3회 수상했으며, 미국 통계 협회(American Statistical Association) 및 수리 통계 연구소(Institute of Mathematical Statistics)의 회원입니다.
Rudin은 “이 분야의 판도를 바꿀 이 상을 만들어 준 AAAI와 Squirrel AI에게 감사를 표하고 싶습니다.”라고 말했습니다. “사회를 돕는 AI에 대한 '노벨상'을 수상하게 된 것은 AI가 사회를 위한 일을 한다는 주제가 실제로 중요하다는 점을 의심할 여지 없이 분명히 보여줍니다."
(다) 듀크대학교
원본 출처: WRAL TechWire