מדען המחשבים של הדוכס זוכה ב"פרס נובל" בשווי $1M עבור עבודת בינה מלאכותית

תאריך פרסום: 15 באוקטובר 2021

מאת קן קינגרי

בין אם מונעת פיצוצים ברשתות חשמל, איתור דפוסים בקרב פשעי עבר או אופטימיזציה של משאבים בטיפול בחולים קשים, מדען המחשבים סינתיה רודין מאוניברסיטת דיוק רוצה שהבינה המלאכותית (AI) תציג את עבודתה. במיוחד כשמדובר בקבלת החלטות שמשפיעות עמוקות על חייהם של אנשים.

בעוד שחוקרים רבים בתחום המתפתח של למידת מכונה התמקדו בשיפור האלגוריתמים, רודין במקום זאת רצה להשתמש בכוחה של AI כדי לעזור לחברה. היא בחרה לחפש הזדמנויות ליישם טכניקות למידת מכונה על בעיות חברתיות חשובות, ותוך כדי כך, הבינה שהפוטנציאל של בינה מלאכותית מוטב להיפתח כאשר בני אדם יכולים להציץ פנימה ולהבין מה הוא עושה.

כעת, לאחר 15 שנים של תמיכה ופיתוח של אלגוריתמים של למידת מכונה "ניתנים לפירוש" המאפשרים לבני אדם לראות בתוך AI, התרומות של רודין לתחום זיכו אותה בפרס $1 מיליון סנאי AI לבינה מלאכותית לתועלת האנושות מהאגודה למען קידום הבינה המלאכותית (AAAI). AAAI, שנוסדה בשנת 1979, משמשת כחברה המדעית הבינלאומית הבולטת המשרתת חוקרי בינה מלאכותית, מתרגלים ומחנכים.

"רק הכרות בעלות שם עולמי, כמו פרס נובל ופרס AM Turing מאת איגוד מכונות המחשוב, נושאות פרסים כספיים ברמה של מיליון דולר. עבודתו של פרופסור רודין מדגישה את החשיבות של שקיפות עבור מערכות בינה מלאכותית בתחומי סיכון גבוה. האומץ שלה בהתמודדות עם סוגיות שנויות במחלוקת מציין את החשיבות של מחקר כדי להתמודד עם אתגרים קריטיים בשימוש אחראי ואתי ב-AI."

יולנדה גיל

רודין, פרופסור למדעי המחשב והנדסה ב-Duke, הוא המקבל השני בפרס השנתי החדש, הממומן על ידי חברת החינוך המקוון Squirrel AI להכרה בהישגים בבינה מלאכותית באופן הדומה לפרסים מובילים בתחומים מסורתיים יותר.

היא מצוטטת בשל "עבודה מדעית חלוצית בתחום של מערכות בינה מלאכותית ניתנות לפירוש ושקופות בפריסות בעולם האמיתי, התמיכה בתכונות אלו בתחומים רגישים ביותר כמו צדק חברתי ואבחון רפואי, ומשמשת מודל לחיקוי עבור חוקרים ו מתרגלים."

"רק הכרות בעל שם עולמי, כגון פרס נובל ופרס AM Turing מאת איגוד מכונות המחשוב, נושאות פרסים כספיים ברמה של מיליון דולר", אמרה יו"ר ועדת הפרסים של AAAI ונשיאת העבר יולנדה גיל. "עבודתו של פרופ' רודין מדגישה את החשיבות של שקיפות עבור מערכות בינה מלאכותית בתחומי סיכון גבוה. האומץ שלה בהתמודדות עם סוגיות שנויות במחלוקת מציין את החשיבות של מחקר כדי להתמודד עם אתגרים קריטיים בשימוש אחראי ואתי ב-AI."

הפרויקט היישומי הראשון של רודין היה שיתוף פעולה עם קון אדיסון, חברת האנרגיה האחראית על הפעלת העיר ניו יורק. המשימה שלה הייתה להשתמש בלמידת מכונה כדי לחזות אילו בורות ביוב נמצאות בסיכון להתפוצץ עקב מעגלים חשמליים משפילים ועומסים מדי. אבל עד מהרה היא גילתה שלא משנה כמה פעמונים אקדמיים שפורסמו לאחרונה היא הוסיפה לקוד שלה, היא נאבקה לשפר את הביצועים בצורה משמעותית כשהיא מתמודדת עם האתגרים שהציבה העבודה עם הערות בכתב יד משולחים ורישומים חשבונאיים מתקופתו של תומס אדיסון.

"השגנו יותר דיוק מטכניקות סטטיסטיקות קלאסיות פשוטות והבנה טובה יותר של הנתונים ככל שהמשכנו לעבוד איתם", אמר רודין. "אם נוכל להבין באיזה מידע השתמשו המודלים החזויים, נוכל לבקש מהמהנדסים של קון אדיסון משוב שימושי ששיפר את כל התהליך שלנו. יכולת הפירוש בתהליך היא שעזרה לשפר את הדיוק בתחזיות שלנו, לא כל מודל למידת מכונה גדולה או מפוארת יותר. על זה החלטתי לעבוד, וזה הבסיס שעליו בנויה המעבדה שלי." https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque

במהלך העשור הבא, רודין פיתח טכניקות ללמידת מכונה ניתנת לפירוש, שהן מודלים חזויים המסבירים את עצמם בדרכים שבני אדם יכולים להבין. בעוד שהקוד לעיצוב נוסחאות אלו מורכב ומתוחכם, הנוסחאות עשויות להיות קטנות מספיק כדי להיכתב בכמה שורות בכרטיס אינדקס.

רודין יישמה את המותג שלה של למידת מכונה הניתנת לפירוש למספר פרויקטים בעלי השפעה. עם משתפי הפעולה ברנדון ווסטובר ואהרון שטרוק בבית החולים הכללי של מסצ'וסטס, ותלמידה לשעבר ברק אוסטון, היא עיצבה מערכת פשוטה מבוססת נקודות שיכולה לחזות אילו מטופלים נמצאים בסיכון הגבוה ביותר ללקות בהתקפים הרסניים לאחר שבץ או פגיעה מוחית אחרת. ועם הסטודנטית שלה ל-MIT לשעבר, טונג וואנג ומשטרת קיימברידג', היא פיתחה מודל שעוזר לגלות קווים משותפים בין פשעים כדי לקבוע אם הם עשויים להיות חלק מסדרה שבוצעה על ידי אותם פושעים. תוכנית קוד פתוח זו הפכה בסופו של דבר לבסיס לאלגוריתם Patternizr של משטרת ניו יורק, פיסת קוד רבת עוצמה שקובעת אם פשע חדש שבוצע בעיר קשור לפשעי העבר.

"המחויבות של סינתיה לפתור בעיות חשובות בעולם האמיתי, הרצון לעבוד בשיתוף פעולה הדוק עם מומחי תחום, והיכולת לזקק ולהסביר מודלים מורכבים היא חסרת תקדים", אמר דניאל וגנר, סגן המפקח של משטרת קיימברידג'. "המחקר שלה הביא לתרומה משמעותית לתחום ניתוח הפשיעה והשיטור. באופן מרשים יותר, היא מבקרת חריפה של מודלים שעלולים להיות בלתי צודקים של 'קופסה שחורה' במשפט פלילי ובתחומים אחרים בעלי סיכון גבוה, ותומכת נמרצת במודלים ניתנים לפירוש שקופים שבהם תוצאות מדויקות, צודקות וללא הטיות הן חיוניות".

דגמי הקופסה השחורה הם ההיפך מהקודים השקופים של רודין. השיטות המיושמות באלגוריתמים אלה של AI מאפשרות לבני אדם להבין באילו גורמים תלויים המודלים, באילו נתונים המודלים מתמקדים וכיצד הם משתמשים בהם. אמנם זה לא יכול להוות בעיה עבור משימות טריוויאליות כמו הבחנה בין כלב לחתול, אבל זה יכול להיות בעיה ענקית עבור החלטות בעלות סיכון שמשנות את חייהם של אנשים.

"המחויבות של סינתיה לפתרון בעיות חשובות בעולם האמיתי, הרצון לעבוד בשיתוף פעולה הדוק עם מומחי תחום, והיכולת לזקק ולהסביר מודלים מורכבים היא חסרת תקדים. המחקר שלה הביא לתרומה משמעותית לתחום ניתוח הפשיעה והשיטור. באופן מרשים יותר, היא מבקרת חריפה של מודלים שעלולים להיות בלתי צודקים של 'קופסה שחורה' במשפט פלילי ובתחומים אחרים בעלי סיכון גבוה, ותומכת נמרצת במודלים ניתנים לפירוש שקופים שבהם תוצאות מדויקות, צודקות וללא הטיות הן חיוניות".

דניאל וגנר

"סינתיה משנה את הנוף של אופן השימוש ב-AI ביישומים חברתיים על ידי הפניית מאמצים הרחק ממודלים של קופסה שחורה לכיוון מודלים הניתנים לפירוש על ידי מראה שהחוכמה המקובלת - שקופסאות שחורות בדרך כלל מדויקות יותר - היא לעתים קרובות שקרית", אמר ג'ון יאנג. , יו"ר המחלקה למדעי המחשב ב-Duke. "זה מקשה יותר להצדיק הכפפת יחידים (כגון נאשמים) למודלים של קופסה שחורה במצבים בעלי סיכון גבוה. לפרשנות המודלים של סינתיה הייתה חשיבות מכרעת לאימוץ בפועל, מכיוון שהם מאפשרים מקבלי החלטות אנושיים, במקום להחליף אותם".

אחת הדוגמאות המשפיעות כוללת COMPAS - אלגוריתם בינה מלאכותית המשמש במספר מדינות כדי לקבל החלטות על שחרור בערבות, שהואשם על ידי חקירת ProPublica בשימוש חלקי בגזע כגורם בחישוביה. עם זאת, קשה להוכיח את ההאשמה, מכיוון שפרטי האלגוריתם הם מידע קנייני, וכמה היבטים חשובים של הניתוח על ידי ProPublica מוטלים בספק. הצוות של רודין הוכיח שמודל פשוט שניתן לפרש שחושף בדיוק אילו גורמים הוא לוקח בחשבון, טוב באותה מידה לחזות אם אדם יבצע פשע נוסף או לא. זה מעלה את השאלה, אומר רודין, מדוע בכלל צריך להשתמש בדגמי קופסה שחורה לסוגים אלה של החלטות בעלות סיכון גבוה.

קצב שינוי · פתיחת הקופסה השחורה

"הראינו באופן שיטתי שעבור יישומים עם הימורים גבוהים, אין הפסד ברמת הדיוק כדי להשיג פרשנות, כל עוד אנחנו מייעלים את המודלים שלנו בקפידה", אמר רודין. "ראינו זאת לגבי החלטות משפט פלילי, החלטות רבות בתחום הבריאות, כולל הדמיה רפואית, החלטות תחזוקה של רשת החשמל, החלטות הלוואות פיננסיות ועוד. הידיעה שזה אפשרי משנה את הדרך בה אנו חושבים על AI כבלתי מסוגלת להסביר את עצמה."

לאורך הקריירה שלה, רודין לא רק יצרה את המודלים הניתנים לפירוש של AI, אלא פיתחה ופרסמה טכניקות שיעזרו לאחרים לעשות את אותו הדבר. זה לא תמיד היה קל. כשהחלה לפרסם את עבודתה לראשונה, המונחים "מדע נתונים" ו"למידת מכונה ניתנת לפירוש" לא היו קיימים, ולא היו קטגוריות שהמחקר שלה השתלב בהן בצורה מסודרת, מה שאומר שהעורכים והסוקרים לא ידעו מה לעשות איתם זה. סינתיה מצאה שאם מאמר לא הוכיח משפטים וטוען שהאלגוריתמים שלו מדויקים יותר, קשה יותר לפרסם אותו - ולעתים קרובות עדיין קשה לפרסום.

"הייתה לי הערצה עצומה לסינטיה מההתחלה, לרוח העצמאות שלה, הנחישות שלה והחתירה הבלתי פוסקת שלה להבנה אמיתית של כל דבר חדש שנתקלה בה בשיעורים ובעבודות. אפילו כסטודנטית לתואר שני, היא הייתה בונה קהילה, ועמדה למען אחרים במחזור שלה".

INGRID DAUBECHIES

כשרודין ממשיכה לעזור לאנשים ולפרסם את העיצובים הניתנים לפירוש שלה - וככל שדאגות נוספות ממשיכות לצוץ עם קוד הקופסה השחורה - השפעתה מתחילה סוף סוף להפוך את הספינה. יש כיום קטגוריות שלמות ביומני למידת מכונה ובכנסים המוקדשים לעבודה ניתנת לפירוש ויישומי. עמיתים אחרים בתחום ומשתפי הפעולה שלהם אומרים עד כמה חשובה הפרשנות לתכנון מערכות AI מהימנות.

"הייתה לי הערצה עצומה לסינטיה מהתחלה, לרוח העצמאות שלה, הנחישות שלה והחתירה הבלתי פוסקת שלה להבנה אמיתית של כל דבר חדש שהיא נתקלה בו בשיעורים ובמאמרים", אמרה אינגריד דאובצ'יז, הדוכס המוכר של ג'יימס בי. פרופסור למתמטיקה והנדסת חשמל ומחשבים, אחד החוקרים הבולטים בעולם בעיבוד אותות, ואחד מיועצי הדוקטורט של רודין באוניברסיטת פרינסטון. "אפילו כסטודנטית לתואר שני, היא הייתה בונה קהילה, ועמדה למען אחרים במחזור שלה. היא הכניסה אותי ללמידת מכונה, מכיוון שזה לא היה תחום שבו הייתה לי מומחיות כלשהי לפני שהיא דחפה אותי בעדינות אבל מאוד בהתמדה. אני כל כך שמח על ההכרה הנפלאה והראויה לה מאוד!"

"לא יכולתי להתרגש יותר לראות את עבודתה של סינתיה זוכה לכבוד בדרך זו", הוסיף יועץ הדוקטורט השני של רודין, שותף המחקר של מיקרוסופט רוברט שפיר, שעבודתו על "חיזוק" עזרה להניח את היסודות ללמידת מכונה מודרנית. "על המחקר מעורר ההשראה והתובנות שלה, החשיבה העצמאית שלה שהובילה אותה לכיוונים שונים מאוד מהזרם המרכזי, ועל תשומת לבה רבת השנים לנושאים ובעיות בעלות חשיבות מעשית, חברתית."

רודין קיבלה תואר ראשון בפיזיקה מתמטית ותורת המוזיקה מאוניברסיטת באפלו לפני שהשלימה את הדוקטורט שלה במתמטיקה יישומית וחישובית בפרינסטון. לאחר מכן עבדה כעמיתת מחקר בתר-דוקטורט של הקרן הלאומית למדע באוניברסיטת ניו יורק, וכמדען מחקר עמית באוניברסיטת קולומביה. היא הפכה לפרופסור חבר לסטטיסטיקה במכון הטכנולוגי של מסצ'וסטס לפני שהצטרפה לפקולטה של דיוק ב-2017, שם היא מחזיקה בתפקידים במדעי המחשב, הנדסת חשמל ומחשבים, ביוסטטיסטיקה וביואינפורמטיקה ומדע סטטיסטי.

היא זכתה שלוש פעמים בפרס INFORMS Innovative Applications in Analytics, המכיר ביישומים יצירתיים וייחודיים של טכניקות אנליטיות, והיא עמית של האגודה האמריקאית לסטטיסטיקה ושל המכון לסטטיסטיקה מתמטית.

"אני רוצה להודות ל-AAAI ול-Squirrel AI על שיצרו את הפרס הזה שאני יודע שישנה משחק בתחום", אמר רודין. "הקבלת 'פרס נובל' לבינה מלאכותית כדי לעזור לחברה מבהירה סוף סוף ללא ספק שהנושא הזה - פועלת בינה מלאכותית לטובת החברה - הוא למעשה חשוב."

(ג) אוניברסיטת דיוק 

מקור מקורי: WRAL TechWire