杜克大学计算机科学家因人工智能工作获得价值 $1M 的“诺贝尔奖”
发布日期：通过肯·金格里
无论是防止电网爆炸、发现过去犯罪的模式，还是优化重症患者护理资源，杜克大学计算机科学家辛西娅·鲁丁 (Cynthia Rudin) 希望人工智能 (AI) 能够展示其工作成果。尤其是当它做出深刻影响人们生活的决定时。
当机器学习发展领域的许多学者都专注于改进算法时，鲁丁却想利用人工智能的力量来帮助社会。她选择寻找机会将机器学习技术应用于重要的社会问题，并在这个过程中意识到，当人类能够窥视内部并理解它在做什么时，人工智能的潜力才能得到最好的释放。
现在，经过 15 年倡导和开发“可解释”机器学习算法（让人类了解人工智能的内部情况）后，Rudin 在该领域的贡献为她赢得了由人工智能协会颁发的 $1 百万松鼠人工智能奖，用于造福人类。人工智能的进步（AAAI）。 AAAI 成立于 1979 年，是为人工智能研究人员、从业者和教育工作者提供服务的著名国际科学协会。
“只有世界知名的奖项，例如诺贝尔奖和计算机协会颁发的 AM 图灵奖，才能获得百万美元级别的奖金。 Rudin 教授的工作强调了人工智能系统在高风险领域的透明度的重要性。她在解决有争议的问题上的勇气凸显了研究的重要性，以解决负责任和合乎道德地使用人工智能的关键挑战。”
尤兰达·吉尔
杜克大学计算机科学与工程教授鲁丁是新年度奖项的第二位获得者，该奖项由在线教育公司 Squirrel AI 资助，旨在以与更传统领域的最高奖项相媲美的方式表彰人工智能领域的成就。
她因“在现实世界部署中的可解释和透明人工智能系统领域开展了开创性的科学工作，在社会正义和医疗诊断等高度敏感领域倡导这些功能，并为研究人员和研究人员树立了榜样”。练习者。”
AAAI 奖项委员会主席兼前主席约兰达·吉尔 (Yolanda Gil) 表示：“只有世界知名的奖项，例如诺贝尔奖和计算机协会颁发的 AM 图灵奖，才能获得百万美元级别的奖金。” “鲁丁教授的工作强调了人工智能系统在高风险领域的透明度的重要性。她在解决有争议的问题上的勇气凸显了研究的重要性，以解决负责任和合乎道德地使用人工智能的关键挑战。”
鲁丁的第一个应用项目是与联合爱迪生公司合作，该公司是一家负责为纽约市供电的能源公司。她的任务是使用机器学习来预测哪些沙井因电路退化和过载而面临爆炸风险。但她很快发现，无论她在代码中添加多少新发表的学术花哨的东西，在面对处理调度员手写笔记和托马斯·爱迪生时代的会计记录所带来的挑战时，它都难以有意义地提高性能。
“随着我们继续使用数据，我们从简单的经典统计技术中获得了更高的准确性，并更好地理解了数据，”鲁丁说。 “如果我们能够了解预测模型使用的信息，我们就可以向联合爱迪生公司的工程师询问有用的反馈，从而改进我们的整个流程。正是过程中的可解释性帮助我们提高了预测的准确性，而不是任何更大或更奇特的机器学习模型。这就是我决定从事的工作，也是我的实验室建立的基础。”https://www.youtube.com/embed/PwLN5irdMT8?wmode=opaque&wmode=opaque
在接下来的十年中，鲁丁开发了可解释的机器学习技术，这些技术是能够以人类可以理解的方式解释自身的预测模型。虽然设计这些公式的代码复杂而复杂，但这些公式可能足够小，可以用几行写在索引卡上。
Rudin 将她的可解释机器学习品牌应用到了许多有影响力的项目中。她与马萨诸塞州总医院的合作者 Brandon Westover 和 Aaron Struck 以及她以前的学生 Berk Ustun 一起设计了一个简单的基于点的系统，可以预测哪些患者在中风或其他脑损伤后最有可能发生破坏性癫痫发作。她与麻省理工学院的前学生 Tong Wang 和剑桥警察局一起开发了一个模型，帮助发现犯罪之间的共性，以确定它们是否可能属于同一罪犯犯下的一系列犯罪行为。该开源程序最终成为纽约警察局 Patternizr 算法的基础，这是一段强大的代码，可以确定该市发生的新犯罪是否与过去的犯罪有关。
剑桥警察局副局长丹尼尔·瓦格纳 (Daniel Wagner) 表示：“辛西娅致力于解决重要的现实问题、与领域专家密切合作的愿望以及提取和解释复杂模型的能力是无与伦比的。” “她的研究对犯罪分析和警务领域做出了重大贡献。更令人印象深刻的是，她强烈批评刑事司法和其他高风险领域中可能不公正的“黑匣子”模型，并大力倡导透明的可解释模型，在这些模型中，准确、公正和无偏见的结果至关重要。”
黑盒模型与 Rudin 的透明代码相反。这些人工智能算法中应用的方法使人类无法理解模型依赖哪些因素、模型关注哪些数据以及如何使用这些数据。虽然对于区分狗和猫等琐碎任务来说，这可能不是问题，但对于改变人们生活的高风险决策来说，这可能是一个大问题。
“Cynthia 对解决重要现实问题的承诺、与领域专家密切合作的愿望以及提炼和解释复杂模型的能力是无与伦比的。她的研究对犯罪分析和警务领域做出了重大贡献。更令人印象深刻的是，她强烈批评刑事司法和其他高风险领域中可能不公正的“黑匣子”模型，并大力倡导透明的可解释模型，在这些模型中，准确、公正和无偏见的结果至关重要。”
丹尼尔·瓦格纳
“Cynthia 正在改变人工智能在社会应用中的使用方式，她将努力从黑匣子模型转向可解释的模型，表明传统观点——黑匣子通常更准确——往往是错误的，”杨军说杜克大学计算机科学系系主任。 “这使得在高风险情况下让个人（例如被告）接受黑匣子模型变得更加困难。辛西娅模型的可解释性对于在实践中采用它们至关重要，因为它们帮助人类决策者，而不是取代他们。”
一个有影响力的例子涉及 COMPAS——一种在多个州使用的人工智能算法，用于做出保释假释决定，ProPublica 调查指控该算法在计算中部分使用种族作为因素。然而，这一指控很难证明，因为算法的细节是专有信息，而且 ProPublica 分析的一些重要方面也值得怀疑。鲁丁的团队已经证明，一个简单的可解释模型可以准确地揭示其考虑的因素，同样可以很好地预测一个人是否会再次犯罪。鲁丁说，这就引出了一个问题，即为什么需要使用黑匣子模型来进行这些类型的高风险决策。
“我们已经系统地表明，对于高风险的应用程序，只要我们仔细优化我们的模型，就不会损失准确性来获得可解释性，”Rudin 说。 “我们已经在刑事司法决策、众多医疗保健决策（包括医学成像、电网维护决策、金融贷款决策等）中看到了这一点。知道这是可能的，改变了我们对人工智能无法解释自身的看法。”
在她的整个职业生涯中，Rudin 不仅创建了这些可解释的人工智能模型，还开发和发布了技术来帮助其他人做同样的事情。这并不总是那么容易。当她第一次开始发表自己的作品时，“数据科学”和“可解释的机器学习”这两个术语还不存在，也没有适合她研究的类别，这意味着编辑和审稿人不知道如何处理它。辛西娅发现，如果一篇论文没有证明定理并声称其算法更准确，那么它的发表就会更加困难，而且通常仍然如此。
“我从很早起就非常钦佩辛西娅，因为她的独立精神、她的决心，以及她对课堂和论文中遇到的任何新事物的真正理解的不懈追求。即使作为一名研究生，她也是一名社区建设者，为同龄人挺身而出。”
英格丽·多贝希
随着鲁丁继续帮助人们并发布她的可解释设计，并且随着更多关于黑匣子代码的担忧不断出现，她的影响力终于开始扭转局面。现在，机器学习期刊和会议中有整个类别专门用于可解释和应用的工作。该领域的其他同事及其合作者都在强调可解释性对于设计值得信赖的人工智能系统有多么重要。
“我从很早起就非常钦佩辛西娅，因为她的独立精神、她的决心，以及她对课堂和论文中遇到的任何新事物的不懈追求，”詹姆斯·B·杜克大学杰出校友英格丽德·道贝希斯 (Ingrid Daubechies) 说道。数学和电气与计算机工程教授，世界上最杰出的信号处理研究人员之一，也是鲁丁在普林斯顿大学的博士生导师之一。 “即使作为一名研究生，她也是一名社区建设者，为同龄人挺身而出。她让我进入了机器学习领域，因为在她温柔但非常坚持地推动我进入这个领域之前，我根本不具备任何专业知识。我非常高兴她能获得如此美妙且当之无愧的认可！”
“看到辛西娅的工作以这种方式获得荣誉，我感到无比兴奋，”鲁丁的第二位博士生导师、微软研究院合作伙伴罗伯特·夏皮尔 (Robert Schapire) 补充道，他在“增强”方面的工作为现代机器学习奠定了基础。 “因为她鼓舞人心且富有洞察力的研究，她的独立思考引导她走向与主流截然不同的方向，以及她对具有实际和社会重要性的问题的长期关注。”
鲁丁在布法罗大学获得数学物理和音乐理论学士学位，然后在普林斯顿大学完成应用和计算数学博士学位。随后，她在纽约大学担任国家科学基金会博士后研究员，并在哥伦比亚大学担任副研究科学家。在 2017 年加入杜克大学之前，她曾担任麻省理工学院统计学副教授，在计算机科学、电气和计算机工程、生物统计学和生物信息学以及统计科学领域任职。
她三度获得 INFORMS 分析创新应用奖，该奖项旨在表彰分析技术的创造性和独特应用，并且是美国统计协会和数理统计研究所的会员。
“我要感谢 AAAI 和 Squirrel AI 设立的这个奖项，我知道这将改变该领域的游戏规则，”Rudin 说。 “人工智能帮助社会获得‘诺贝尔奖’最终毫无疑问地表明，人工智能为社会造福的主题实际上很重要。”
(C) 杜克大学
原始来源： WRAL 技术线