英特尔开发AI技术检测学生情绪状态,招致多个领域专家批评

此前英特尔与电子学习初创公司Class Technologies建立了合作伙伴关系,开发基于人工智能技术的软件解决方案,可以检测学生的情绪状态,并运用在Zoom上面。英特尔表示,该系统可以通过评估学生的面部表情,以及如何与教育内容互动,以此检测学生是否会感到无聊、分心或者困惑。英特尔希望这项技术可以拓展到更广阔的市场中,不过遇到了巨大的阻力,引发了关于AI、科学、伦理和隐私等多方面的辩论。
图片
据Protocol报道,英特尔与Class Technologies合作基于AI技术开发的功能通过名为“Class”的软件产品可以与Zoom集成,当举行数字课程的时候,可以对学生的肢体语言和面部表情进行分类。Class Technologies联合创始人兼首席执行官Michael Chasen表示,这是根据老师在新冠疫情期间远程授课的互动后的经验总结,希望为老师提供更多信息,以便改善教学的效果,将有助于师生之间的交流。
或许英特尔和Class Technologies的初衷是善意的,但这项基于人工智能技术的解决方案却招来了多个领域专家的批评,争论的焦点主要有几个:首先是这项技术评估的准确性,仅靠捕捉一些外部信息就认为完全准确地判断一个人的精神状态;其次容易将学生标签化,可能会简单地强塞信息并将其分门别类;最后,每个人的生理结构和表达方式是有差异的,而且还存在文化差异等,在同一事件上表达的形式也不尽相同,日常生活里人与人之间都很容易产生误解。
暂时还不清楚英特尔的技术如何与Class软件集成,有业内人士称可能已经与其中一所大学进行合作。目前教育团体已就识别技术可能过度监视学生及侵犯隐私发出警报,表示不希望这样的技术成为监视系统。新冠疫情期间有了更长的远程授课时间,而随之带来了更多的监控技术手段,最终触发的可能是社会问题。