6月22日,微软宣布停售个人面部情绪分析工具,并进一步限制面部识别工具的使用。
微软AI事务负责人克兰普顿表示:“我们表达自我的方式存在着巨大的文化、地理和个人差异,这引发了人们对AI识别工具可靠性的担忧,同时也会让人产生更大的疑问,即面部表情是否能成为反映个人内心情绪状态的可靠指标。”
人类的表情很复杂,不能简单概括为表情包那几种元素。/pexels
用于识别和分析人脸的自动化软件一直备受争议。去年,Facebook关闭了其已有十年历史的照片识别系统。
这两家公司对人脸识别技术的态度,代表了一种审慎积极的方向。
人脸识别相关技术,一度被认为具有广泛的应用前景。对于视障患者而言,这可能成为一种便捷解读视觉信息的神器。
美国情感识别技术巨头Affectiva则希望,他们的软件能监控司机,从他们的声音、肢体语言和面部表情上识别出情绪。如果你有严重的路怒症,将产生危害道路行驶的行为,或是身体不适即将瘫倒在方向盘上,他们的自动驾驶台就可以控制汽车,带你到最近的安全地带,如有必要,还会打电话求救。
就在今年,英特尔也开发了关于情绪识别的插件。这款插件可以被用于在线课堂上,旨在通过分析学生面部表情获取其实时情绪,帮助教学人员改善教学质量。
比如,如果一个学生走神了,那么老师就可以实时提醒该学生注意听讲;当学生流露出无聊的表情时,老师也可以及时领会到学生的消极情绪,以便接下来改善教学内容。
英特尔情绪分析插件的效果图,人的表情被标签化了。
这款插件一出,就引起了很大争议——
首先是这项技术评估的准确性,仅靠捕捉一些面部表情信息,就去判断一个人的精神状态,这是不严谨的,比如一个人明明很不喜欢这个老师,也可以曲意逢迎去“假笑”,这样的笑容显然不能代表真实的情绪和态度。
其次,这项技术容易将学生标签化,A学生上课走神、B学生态度消极,但人的情绪是复杂多变的,远不只积极、消极这么简单,甚至也不能用快乐、愤怒、悲伤、厌恶、惊讶和恐惧的“六分法”来概括。一旦有了这样简单粗暴的刻板印象,会产生影响师生关系的可能性。
小丑的笑容,代表了哪种情绪呢?
再者说,每个人的生理结构和表达方式是不同的,而且还存在文化差异等,在同一事件上表达的形式也不尽相同,日常生活里人与人之间都很容易产生误解,AI就更容易出错了。
最后,即使一时半刻的走神,也代表不了什么,人不可能时时刻刻保持精力集中,也没必要这样,上课本身就是张弛有度,只要不是全程心不在焉就好,过度使用这样的插件会有监控之嫌。比如,将类似的技术用于在线办公,简直不敢想象。
总而言之,情绪识别技术的确是一个需要伦理边界的领域,如果一个人连情绪自由都没有,那么活得也太辛苦了。
不过,我倒是想到一个领域,建议这些厂商可以深入研究一下——宠物情绪识别技术。毕竟是不同物种,存在天然的隔阂,但宠物的情绪必然没有人类复杂,相信研发难度会低很多,市场前景也应该不错,还不会有伦理争议。期待一下吧!
评论20