我要看看，谁敢把“鸟”写成“乌”

　　最近，一款神奇的作业灯登场了。

　　它有两个摄像头，一个紧盯着孩子的作业本，另一个可以盯着孩子的面部表情。这样在做作业的时候，如果孩子敢把“鸟”写成“乌”，家长哪怕在千里之外，仍能大喝一声。孩子若想愣神儿，没门儿；想揉揉眼睛玩玩笔，一句“集中注意力”保准会扔过来。

　　可以理解，这款产品能给一些因为工作和生活远离孩子的家长提供慧眼，实现远程陪伴。不过，它也给那些“直升机”家长增添了利器，不仅盯着人，也能盯着所有的小动作，包括指尖、眼神。

　　凭我们的才智，这样的产品肯定会被超越：可以再加一个摄像头盯着孩子的腿脚，写作业时双脚必须并齐放在地面上，不许跷二郎腿；头上可以悬个锤子，发现走神，锤子立马落下来。

　　人工智能应用越来越多，在信息安全的前提下，交通导航、医学诊断、移动支付、药物筛选等等，给我们带来了太多福祉。疫情防控，人工智能也功不可没。

　　从一个摄像头变成两个摄像头，是不是创新暂且不论，关键是与人工智能嫁接，号称人工智能助力教育的新产品，这就值得讨论一下了，人工智能到底该如何助力教育？

　　浙江某地一所小学的学生，去年被戴上了脑机接口环。这个脑箍可以检测脑电波，评判学生上课、写作业时是否集中注意力，系统可以给注意力打分，分数能实时传输到老师的电脑里，据说也会像考试成绩排名一样被发到家长群里。

　　还有一款可以对学生课堂听讲情况全程监控的产品，举手3次、低头8次、打瞌睡1次、趴桌子1次……一举一动、面部表情都能被记录在案。

　　好在经媒体报道后，浙江当地教育部门禁用了上述头箍；上述第二个产品的开发公司也随后发声明说只是技术场景概念演示，否认应用。真要谢谢他们，不然，孩子上学戴上头箍，放学回家用上作业灯，全天候、无死角，尽在大人掌握和干预之中。这不就是电影《楚门的世界》中，活生生的现实“小楚门”吗，24小时都被监控、直播。

　　如何培养出更多有创造力、想象力、敢于突破的杰出人才一直是我们的追问，也是目标。一个人的成长需要适度的空间，心理的成熟、心灵的丰富，都需要自我不断探索尝试。很多从试错、反思中得到的经验更可贵。一直被作业、分数捆绑，没有一丝一毫的空间，也许会有一个好看的分数，但难说会有阳光的心态。

　　有人生动比喻，一匹从小只会拉磨的小马，永远不会成为骏马。

　　前两年人脸识别技术刚刚开始应用的时候，就有公园里的厕所安装人脸识别设备，一刷脸给你一截手纸，你要想再多要一截，对不起，面子只能刷一次。若有特别需求，还真得找别人“借脸用一下”。人脸识别应用场景很多，在新冠肺炎疫情期间，即使戴着口罩，有些摄像头也能识别。

　　现在厕所厕纸也升级了，有的把二维码印在地上，扫码关注公号才能滑出一截手纸。这种推广和营销，用在厕所里总是让人觉得违和。

　　奇葩年年有，人工智能来了就特别多。

　　一些批量生产“优雅骂人”语句的软件横空出世。这类软件可以从文学名著中快速检索、生成特定的骂人句子，语句虽不带脏字却恶意满满。这些软件为网络“喷子”提供了“装满大粪的炸弹”，中伤他人，污染网络环境。

　　不断迭代的科技，双刃剑从来都是锋利无比。有学者在科技与伦理的论述中，这样形容“科学技术像一匹不断飞驰的骏马，那么伦理就像制约骏马的缰绳。如果没有伦理的规范、约束和引导，科技一味疯狂发展很可能会把人类带上不归路。”

　　贺建奎对基因编辑技术滥用，被追究刑事责任，这就是缰绳起了作用。前些年瘦肉精、三聚氰胺、苏丹红同样如此。

　　伦理具有一定的稳定性，面向不确定性增多的未来，科技要给人类提供什么帮助？科技的限度和禁区在哪里？从以往来看，如果预先设置一些高于现行要求的伦理规范，有机会消除一些技术带来的不确定性危害。

　　去年，几家研究机构共同推出了《人工智能北京共识》，提出人工智能的研发、使用、治理，应该遵循有益于人类命运共同体构建和社会发展的15条原则。例如“善用与慎用原则”，要对人工智能应用可能带来的潜在影响具备充分认识，避免误用、滥用，以最大化人工智能带来的益处、最小化其风险。

　　之后科技部也对外公布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了和谐友好、公平公正、包容共享、尊重隐私、安全可控、敏捷治理等八项原则。

　　几乎在同时间，欧盟委员会也发布了人工智能伦理准则，并宣布同时启动该准则的试行阶段。据统计，目前各国政府、各类组织、研究机构和产业界颁布的有关人工智能伦理准则提案已经有几十份。

　　不过，也可以看出，这些准则大多只是原则性、倡议性的，缺乏可操作性，也缺乏法律上的约束性。

　　因此，如何善用人工智能，还是要靠科研人员的自我约束。作业神灯的发明者，想想自己小时候，是不是愿意被家长、老师无时无刻盯着就行了。

　　当然，无论是阿拉丁神灯还是宝莲灯，无论是金箍还是银箍，产品经理肯定是考察了市场，看到了需求，推广团队也会培育市场以获得收益。但是这种收益的埋单者是谁，只是家长花钱吗？非也，损失的有可能是一群人的未来。

　　被算法24小时罩起来的孩子，可能会非常听话，写作业时遇到难题也不会龇牙咧嘴。如果都这样，倒像一批批小机器人，那么未来这个世界到底是谁的世界呢？

　　电影《星球大战》里，那颗被称为“终极武器”的死星，代表了技术双面中的“恶”，这个有两个重力场的巨大怪物，会让克隆人慢慢减少人性，让所有东西都在机器控制之下。

　　不说那么远的科幻世界，近几年，商业公司最感兴趣的信息，已经从个人的生日、电话、住址变成了指纹、人脸特征、虹膜等。南京一家售楼处采集看房者人脸信息，有自我保护意识的买房人戴着钢盔看房。家长放心把自家孩子的脸通过神灯交给一家公司？

　　近几年热热闹闹的人工智能，已经有60多年历史。现在公认的说法是1956年达特茅斯学院夏季研讨会(人工智能的起源事件)的召集者麦卡锡(John McCarthy)想出来的。有人考证，说这是误读，因为麦卡锡晚年承认这个词最早是从别人那里听来的，但记不清是谁了。如今当事人大都已仙逝，谁发明了这个词恐成世纪悬案。不过，人工智能花里胡哨的应用，还能远程管中国小孩写字多一笔少一笔，应该是这些先贤们没有想到的。

　　李新玲 来源：中国青年报 【编辑:房家梁】