首页 > 科技 > 人工智能成为家长、老师的“间谍”?AI+教育需要伦理准则

人工智能成为家长、老师的“间谍”?AI+教育需要伦理准则

近来,一些听起来让人啼笑皆非的“高科技”狠狠赚了一笔家长的“智商税”。

先来说说量子波动阅读,号称能让孩子在5分钟内看完10万字左右的书籍。

来感受一下修炼了量子波动阅读后,孩子们看书的速度。恕我愚钝,再给我100只眼睛,我也看不了这么快。

一边,科学家们还在苦苦研究量子力学,另一边量子波动阅读却横空出世,对“韭”当“割”,无比快乐。

目前,部分地区教育局已发布相关文件,禁止中小学生参加“量子波动速读”培训相关项目或内容。

中国教育科学研究院研究员储朝晖对此事件表示,“家长望子成龙的心态是参与此类培训的诱因,而最终决定掏钱是由于缺少基本常识,没有辨别能力,科学素养有待提高。”

近日,浙江某小学的学生佩戴“紧箍咒”,监测注意力、专注力也引起了广泛关注。

有脑科学业内人士表示:“用3个点位就能监测脑电图,闻所未闻。”

近年来,随着人工智能等高科技概念进入教育领域,一方面带动了科技赋能教育的进展,另一方面也给教育行业带来了浮躁,不少企业,借由“科技”之名谋取私利。

不可否认,AI教育、科技赋能教育,确实是大势所趋。但在这样的浪潮中,还有很多问题值得思考。

正如上面所提到的头环监测注意力,目前人工智能已经能通过面部识别等技术来监测学生的学习状态,但这样是否符合伦理,是否真的有利于学生成长,有待考量。

科技赋能教育的另一面

2017年,国家国务院就发布了《新一代人工智能发展规划》,抢抓人工智能发展的重大战略机遇,加快建设创新型国家和世界科技强国。

今年,教育部将人工智能专业列入新增审批本科专业名单,全国有35所高校获得首批建设资格。

目前,少儿编程培训的兴起,也与互联网时代、以及人工智能的入局息息相关。俞敏洪曾说:“人工智能对于教育领域的影响会是革命性的。”

人工智能无论在哪个领域,都会和我们越来越紧密。既然是大势所趋,追随肯定是没有错。但在顺应时代潮流的过程中,保持理性也尤为重要,否则在潮流的席卷下,更容易步入迷途。

在科技赋能教育的另一面,我们避不开一些伦理问题。

正如上文所提到的,人工智能目前已能够实现通过面部识别监测学生的学习状态,但如果让孩子,特别是低年级的孩子长期处于这样的监测环境,也许注意力会提升,成绩会提升,但却可能损害他们自身的人格成长。

当小孩子知道自己处于监控状态下,紧张的状态自不必说,还可能养成表演性人格,自我意识变得薄弱。

在某种层面上,如果不能善用人工智能的功能,人工智能可能会成为让孩子十分反感的课堂“间谍”。

另外,人工智能的自适应功能也让人期待,因为能实现广大学生的个性化学习。但这样经由大数据和精确算法的学习方式,也存在一些“副作用”。

湖北民族大学教育学院邹太龙博士表示:“在算法盛行的AI领域,学生可能逐渐丧失反思和批判的能力,而听从诸如智能Agent或AI助手代替自己做出选择。比如,AI可以为学生推送独一无二的文章、视频或网站,其后果是学生的阅读品味受潮流和惯习裹挟而出现去我化和同质化倾向,影响学生批判性思维的发展。”

可见无论是多么高端的科技,离开的人把控,都容易走向极端。

对于教师而言,一方面,拥有操作、运用人工智能的能力会成为必备的能力。另一方面,对于一些自主能力较弱的教师,可能反而会被人工智能摆控,失去自己对教育的独立见解。

在人工智能+大数据赋能教育的时代,学生以及老师的信息隐私保护也值得重视,否则,科技的进步反而会成为谋利者的桥梁,给学生和老师带来困扰。

欧美国家的AI教育:科技与伦理同行

目前,全球各国都在共同探索人工智能的未来,但整体仍处于弱人工智能的阶段,美国人工智能的科技水平相对较高。

在美国,一些人工智能的课程已经进入了基础教育阶段。部分6~12岁的孩子就可以开始学习一些基础的编程课程,实现机器人与自己对话、交流等功能。

但当美国老师教授孩子AI知识的同时,也不断强调着伦理层面的问题,让他们懂得,人工智能既能帮助社会,也能危害社会。

去年,微软发表的《未来计算》一书中,提出了人工智能开发的六大原则:公平、可靠和安全、隐私和保障、包容、透明、责任。

今年4月,欧盟委员会发布了人工智能伦理准则,也列出了“可信赖人工智能”的7个关键条件,包括:人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制,以确保人工智能足够安全可靠。

近几年,当80后、90后父母成为社会工作的主力军,托管和早教领域则进入了发展红利期,就全球来看,“AI+早教”也吸引了不少企业关注,儿童机器人诞生,用于陪护孩子、教育孩子,成为他们的“玩伴”。

高科技带给早教市场的机遇,一下子就博得了不少眼球。但其中的一些问题也不能忽视。

试想一个幼儿,在频繁接触能够和他对话的人工智能的时候,就会对它产生情感依赖,甚至渐渐产生友谊的错觉,这种对机器人的情感是很难获得交互体验的。这种依赖是不可靠,也不安全的。

人从小就有建立亲密关系的需求,但这样的亲密关系只能人和人之间才能拥有,人和机器之间建立亲密关系会给人带来难以逆转的伤害。

另外,人工智能的透明度也值得关注。在AlphaGo对战各国围棋高手的比赛中,基于AlphaGo本身深度学习的能力,它使出的一些招数是人工智能专家以及围棋职业选手都无法理解的。当人类不能完全理解人工智能的算法时,它就存在不透明的问题了。

在譬如自动驾驶这样的人工智能领域,如果不透明的问题存在,那么随之而来的将是不安全的问题。

放眼全球,在欧美一些发达国家探索人工智能新技术时,伦理和原则是先于科技应用的。这是科技发展的底线,谁也不能越过。

人工智能并非无所不能

2016年到2017年,当AlphaGo先后战胜世界围棋冠军李世石、柯洁后,大家对于人工智能的关注上升到了一个新的高度。近几年,人工智能会在未来代替人类的工作言论也引发了大家讨论。

从趋势来看,人工智能在一些机械化工作上,确实比人的效能高太多。而且就教育领域而言,也能带来不小的突破,包括我们常常谈到的自适应学习、AI早教、促进山区教育公平等。

但即便如此,人工智能代替人并非主流趋势。在科学家们、教育家们谈及人工智能的时候,细心一点其实不难察觉,人工智能往往伴随着另外一个词出现,那就是“结合”。

在教育领域,这两个字亦是不能缺失的。人的社会化与情感链接,终究还是要靠有血有肉的人来完成,再智能的机器,也无法代替人。

人工智能的发展也许会淘汰一部分工种,但也能创造出新的机会。

“在未来,对于教师而言,可以花更多的时间跟学生一起‘玩’,应试教育的知识传递交给人工智能做,智商、情感,举一反三等迁移能力则需要教师带领学生在‘玩中学’。”全国人大代表、电子科技大学教授尧德中曾在采访中如是说。

未来,不同领域的人都需要有运用人工智能技术的能力,成为新技术的主人,而非被机器操控。人与人工智能的结合、融合,是我们拥抱全新世界的前提。

参考文章:

《警惕AI在教育培训行业中应用的伦理风险》邹太龙

《人工智能何以改变教育》中国教育报

《人工智能课程进入美国基础教育阶段:教技术也重伦理》 腾讯教育

本文来自投稿,不代表本人立场,如若转载,请注明出处:http://www.souzhinan.com/kj/196382.html