AI强扭出的“好学生”,不甜

德江 & 张莉 雷锋网 2019-09-03

▲点击上方 雷锋网 关注


还是要给学生在课堂上留出一定的隐私空间。

 文 | 德江 张莉 

近来,AI屡屡登上头条。

8月31日,AI换脸APP“ZAO”刷屏朋友圈后就被用户质疑,分享链接被微信屏蔽;9月1日晚,一张有关旷视科技的AI课堂行为分析图在微博上引起不少网友的争议。旷视随后发布声明称,该图片为技术场景化概念演示。

这张图为我们展示了这样的信息,利用AI不仅可以统计课堂中学生的举手、阅读、听讲次数,还可监控学生趴桌子、玩手机和睡觉的次数。

不管是ZAO还是AI课堂行为分析,戳到网友心坎的主要因素都是因为隐私保护问题。

无独有偶,近日,瑞典北部城市一高中因为引入人脸识别考勤,违反了欧盟《通用数据保护条例》,导致该市政府被罚款20万瑞典克朗。

隐私问题似乎成了AI前进道路的一颗绊脚石。

一张图片引发的争论


近年来,由于政策、资本和技术进步等因素推动,AI+教育成为人们关注的热门话题。因此不少技术或教育公司纷纷探索AI在教育中的应用。

在AI领域积累颇深的旷视也不例外,教育也是其输出AI能力的一个场景之一。这张图中分析统计学生举手、听讲和睡觉的次数主要是借助人脸识别、人体识别等技术。

由于这张图片被广泛传播,9月2日晚,旷视科技在其官方微博紧急发布声明称,该图片为技术场景化概念演示。言外之意,就是这张图片只是一张蓝图,还未真正落地学校实施。

在声明中,旷视表示,始终坚持技术向善,让人工智能造福所有人。在人工智能技术的各种场景中,旷视会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。

而网友们的讨论也是主要集中在隐私保护层面,这反映出多数人其实针对的不是技术本身,而在于如何合理正确的使用技术。

雷锋网就该事件采访了北大附中朝阳未来学校语文教师唐伊豆,她表示:

“我个人对这项技术的态度比较保守。实际上,我认为它仍然是在很传统甚至陈旧的思路上进行设计,从目前的实践来看,虽然它在某些方面加强了校园安保,但是整体上简单地将老师和学生置于看与被看、管理者与被管理者的权力关系中,这是很粗暴的,背后实在缺乏对师生关系的想象力。因此这项技术立刻让我想起了福柯笔下的全景敞视监狱,如果学生都规规矩矩、按部就班,反倒非常伤害学生的多样性与校园文化建设。”

此外,唐伊豆老师不赞成将课堂教学评价功能进入课堂。她认为,表情分析更是直接将“人”抽离了出去。她举个例子,在语文课堂上,学生在构思文章时发呆,或者为同学讲述的故事而难过,这都是很正常的,“这些幽微的情绪是不可能也不需要被机器捕捉的。教学互动中有很多模糊地带,这正是其生动的、人性化的魅力所在。”

而某位不愿意透露姓名的老师告诉雷锋网,他认为利用AI技术分析学生课堂行为,可以帮助老师更好地了解学生的课堂行为,从而改进自己的教学。

“比如,讲到某个知识点时,大部分学生都在发呆,老师课后就可以再针对性地补充。但是,如果技术运用不当,也会产生负面效果,比如AI检查到学生发呆,老师因此去惩罚学生,这样是不可行的,会引起学生的逆反情绪。”


“AI课堂分析”是否侵犯了学生的隐私?


按照旷视的说法,那张图片只是一个概念演示,但在现实中有不少学校已将AI应用于课堂中监控学生的行为。

据澎湃新闻报道,近日,中国药科大学已在两间教室试点人脸识别系统。该系统不仅可以人脸考勤,还能全程监控课堂的行为,例如统计学生是否在听讲、玩手机、打瞌睡等等。从描述上看,这套系统的功能基本与旷视的概念演示是相同的。

该校图书与信息中心主任表示这套系统是为了减少学生逃课、早退以及上课走神等行为。关于是否侵犯学生隐私,他表示已向公安和法务咨询,教室属于公开场所,不存在侵犯隐私的说法。

中国药科大学的人脸识别系统(图片截自:梨视频)

唐伊豆老师则认为,教室里是存在隐私的,它不是完全的公共场合,更像是一个特定的师生群体共有的空间。“用摄像头考勤还可以接受,但是采集和监控课堂行为就是一种过度的介入,它暗含着对教师、对学生的不信任,会影响师生共同建设的一个安全互信的、自在舒适的环境。”

一位老师对雷锋网表示,教室里学生也是有隐私的,学生的行为数据不应该共享给所有人,应该设置严格的权限,比如校长、学校安全处等,只给有需要的人针对性地开放部分数据。

另一位老师认为,利用AI摄像头监控学生考勤和行为,一方面出于保证学生安全、优化管理的目的,这一做法无可厚非。但另一方面,更要考虑适度的问题,教室虽是公共场合,但也要切实保障未成年人的隐私安全,特别是持续要关注该举措对学生心理的持久影响。

AI+教育如何更好的结合?


之所以一张AI课堂分析的概念图能引起如此大的反响,无外乎还是人们在担心新技术所带来的未知挑战,尤其是恐惧于将技术用在了错误的方向,以致于带来无法挽回的后果。

尤其是在教育这个特殊领域,任何新技术的应用和创新都会被密切关注,任何瑕疵都会被无限放大。因为教育中最大的成本是时间,这些还未成熟,未经严格验证的产品一旦应用于课堂中,对学生产生的任何影响都是不可逆的,所以不管是学校、家长,还是社会舆论对此都是高度关注。

与此同时,国家也在鼓励AI、大数据技术与教育的融合应用。2017年7月,国务院印发《新一代人工智能发展规划》,要求推动AI在教育、医疗等领域的应用。规划中还提到要建设在线智能教育平台,利用智能技术在教学、校园管理、学习分析系统及个性化教育方面进行探索应用。

当然AI在教育中的应用,不止考勤和学生行为分析等校园管理层面。在教学和个性化教育方面,AI主要被用于减轻老师工作负担,帮助学生建立个性化学习路径,实现因材施教。

例如,某些公司开发的智能评卷系统,基于OCR识别、自然语言处理等AI技术,能够对语文、英语作文,简答题以及日常作业实现自动评卷和批改,减轻了不少学校的工作压力。

一起教育科技CEO刘畅对雷锋网表示,教育本质是让学生学习到知识,并讲知识应用到实际生活中。现阶段AI+教育想象空间最大的就是自适应学习领域。

“自适应学习真正从学习的本质提升学习效率,为学生匹配最佳学习路径,最终提升每一个学生的效果。我们认为自适应学习对教学辅助,学习效果和学习兴趣的提升明显,是目前最为合理且前景光明的方向。”

刘畅认为学生的个人学习资料、学习数据这种都是学生的隐私数据,不能被随意调取。对于平台的学生数据,他们会全部进行脱敏处理,并且有严格的安全防护措施。

远昊科技CEO邓艾华曾在采访中告诉雷锋网,他们在处理校园隐私上,采取的办法是,通过分布式系统将各个学校的大数据留存在学校的本地服务器上,只通过云平台获取学生简单的画像信息,以此防止泄露学校数据隐私。将校园的各种数据留在学校中,也是一个解决方案,这也考验了学校的数据保护能力。

唐伊豆老师认为, AI这项新技术应该在更加积极的方向发挥它对教育的赋能效果,而不仅仅局限在所谓的“管理”、“采集”层面。在需要数据帮助的环节里,怎样避免单一刻板的、自以为是的数据,需要教育者和科技工作者共同来思考。

如何正确使用技术才是问题


关于隐私的讨论告诉我们,技术不是问题,如何正确使用技术才是问题。网友们对于旷视的那张概念图片的讨论,本质上源自人们对于未知的新技术可能被滥用而产生的恐惧心理。

如果能用AI监控就能培养出好学生,那样的教育简直太轻松了,显然现实并不是这样的。

对于科技公司来说,尤其是AI教育公司,如何将AI技术合理应用于教育场景中,显然是首先要考虑的问题。希望下次AI+教育登上头条,不再是因为隐私保护的争议。



推荐阅读
微博推新社交产品「绿洲」;苹果多款产品加征关税至15%;旷视回应课堂行为分析图片
▎百度从A到B

▎微信屏蔽AI换脸App“ZAO”;新iPhone或9月13日开启预定;三大运营商下线不限量套餐

▎阿里平头哥发布重磅新品“无剑”,欲打破现有芯片设计限制

上新!「AI投研邦」现已上线CCF GAIR 2019峰会完整视频与各大主题专场白皮书, 包括机器人前沿专场、智能交通专场、智慧城市专场、AI芯片专场、AI金融专场、AI医疗专场、智慧教育专场等。「AI投研邦」会员们可免费观看全年峰会视频与研报内容,扫码进入会员页面了解更多,或私信助教小慕(微信:moocmm)咨询。

你还在看吗?
    已同步到看一看

    发送中

    本站仅按申请收录文章,版权归原作者所有
    如若侵权,请联系本站删除
    觉得不错,分享给更多人看到