8月19日,大湾区大学(筹)信息科学技术学院邀请普渡大学殷明教授来校开展计算机方向的学术讲座,由信息科学技术学院老师杨斯崑主持,在校师生踊跃参加。
近年来,人工智能技术发展迅速,人类与人工智能联合决策的方式也得到了广泛关注。在这种场景中,基于人工智能的决策辅助工具能为人类提供建议,人类可选择是否听取其建议,并做出最终决策。因此,了解在人机交互过程中人类与人工智能如何协作,以及如何提升这种协作关系的有效性,是非常有必要的。
在本次讲座中,殷明教授首先介绍了在人们通常的认知中,人工智能模型性能如何影响人类对其信赖程度,并且通过精妙的实验介绍了在没有人工智能性能信息的情况下,人类又会如何决定是否信赖人工智能。
殷明教授通过其深入浅出的讲解,揭示了一件非常有趣的事实——人类对人工智能的信赖程度不仅取决于模型的准确率等性能指标,还取决于模型做出的判断是否与自己意见一致。这种确认偏误便导致人类可能会过度信赖或质疑人工智能给出的建议,不利于人类做出正确的决策。
为降低确认偏误带来的风险,殷明教授对人类是否采用人工智能建议的情况进行建模,从而定量地描述人类与人工智能之间的互动情况。结果表明,人类的独立判断在多个步骤中都对其是否采用人工智能建议产生影响。
基于模型结果,殷明教授通过比较人类和人工智能判断正确的可能性,设计干预措施来影响人类与人工智能的协作结果,从而有效提高了人机系统的表现,帮助人类更好地扬长避短。
在此次的讲座中,殷明教授带来的精彩报告引发了参会人员关于人机交互问题的思考,吸引了各位师生的踊跃提问与热烈互动,得到了师生们的广泛好评,本次活动取得圆满成功。
专家介绍
殷明
普渡大学计算机科学系助理教授,目前的研究兴趣包括人智交互、众包与社会计算以及计算社会科学。其于2011年获得了清华大学学士学位,并于2017年获得了哈佛大学计算机科学博士学位,后在微软研究院纽约实验室任博士后研究员。其研究成果在CHI, CSCW, WWW, AAAI, IJCAI等国际高水平会议上发表,曾获得CHI, CSCW和HCOMP的最佳论文奖,并担任了AAAI HCOMP 2022会议联合主席。