作者简介：孙伟平，上海大学社会科学学部教授。上海200444
原发信息：《教学与研究》第20188期
内容提要：人工智能是一种远未成熟的革命性、颠覆性技术，可能导致的伦理道德后果尚难准确预料。人工智能的应用范围极其广阔，人形智能机器人正在解构传统的人伦关系，数据搜集和分析、智能机器取代人工作正在引发各种伦理冲突，智能驾驶、虚拟现实正在带来各种伦理难题。我们必须立足时代和社会的重大变迁，对人工智能进行理智的价值评估，对人工智能的研发和应用进行有效的伦理规制。
关键词：人工智能/智能机器人/伦理冲突/伦理原则/伦理规制
人类正在迈入新颖别致、激动人心的智能时代、智能社会。人工智能不是以往那样的普通技术，而是一种应用前景广泛、深刻改变世界的革命性技术，同时，也是一种开放性的、远未成熟的颠覆性技术，其可能导致的伦理后果尚难准确预料。人工智能的研发和应用正在解构传统的人伦关系，引发数不胜数的伦理冲突，带来各种各样的伦理难题，在社会上引发了广泛关注和热烈讨论。如何准确把握时代变迁的特质，深刻反思人工智能导致的伦理后果，提出合理而具有前瞻性的伦理原则，塑造更加公正更加人性化的伦理新秩序，是摆在我们面前的一个重大课题。
一、智能驾驶的道德责任归属
智能驾驶是目前人工智能最典型、最引人注目的应用领域之一。智能驾驶通过导航系统、传感器系统、智能感知算法、车辆控制系统等智能技术，实现了自主无人驾驶，包括无人驾驶汽车、无人驾驶飞机、无人驾驶船舶等。
智能驾驶是一种“新事物”，可能产生的经济和社会效益十分显著。以无人驾驶汽车为例，无人驾驶汽车的安全系数更高，据世界卫生组织提供的数据，目前全世界每年都会发生大量车祸，造成120多万人死亡，而大多数车祸都是由于司机的驾驶过错所致，智能驾驶更“冷静”、更“专注”、不易疲劳，这或许可以拯救许多人的生命；对于没有能力驾车的老年人、残疾人等，无人驾驶能够提供巨大的便利，在相当程度上重塑他们的生活轨迹。此外，以大数据为基础的自主无人驾驶还可以通过自动选择行驶路线、让更多人“分享”乘用，实现更少拥堵、更少污染，提高乘用效率等目的。当然，智能驾驶也并非“尽善尽美”，例如，不可能完全不产生污染，不可能“消灭”城市拥堵，不可能杜绝安全事故……在无人驾驶领域充当急先锋的特斯拉公司已经报告了多起事故。2016年5月7日，美国佛罗里达州一辆特斯拉电动汽车在“自动驾驶”模式下与一辆大货车尾部的拖车相撞，导致特斯拉电动汽车的司机不幸身亡。虽然无人驾驶导致的事故率相较普通汽车低，但事故隐患的存在仍然令人心怀忧虑。
智能驾驶本身难以破解既有的道德难题，同时还导致或强化了一些恼人的“道德二难”。有人设想了这样一个场景：一辆载满乘客的无人驾驶汽车正在高速行驶，突遇一位行动不便的孕妇横穿马路。这时，如果紧急刹车，可能造成翻车而伤及乘客；但如果不紧急刹车，则可能撞倒孕妇。无人驾驶汽车应该怎么做呢？如果司机是自然人，这时完全取决于司机的经验，特别是当时本能的直觉或判断。可当智能驾驶陷入人类“伦理困境”的极端情形时，由于其行为是通过算法预先设定的，而事先的编程受制于没完没了的功利论和义务论之争，根本就没有给予类似的设定，它只能从大数据库中选取相似的案例进行类推。如果遇到的是完全陌生的情形，就只能随机地选择一种方案。众所周知，未知的领域总是无限大的，不可能将所有可能性都设想到，陌生的情形无论如何都难以避免，那么应该基于什么伦理原则对智能驾驶进行规范呢？
对问题进一步思考我们会发现，智能驾驶颠覆了传统的人车关系、以及不同车辆之间的关系，突出了价值评价、选择中的一系列伦理难题。例如，智能驾驶颠覆了传统驾驶的伦理责任体系，令以驾驶员的过错责任为基础建立的“风险分配责任体系”陷入了困境。因为在智能驾驶导致的交通事故中，归责事由只有结果的“对与错”，既不存在驾驶员主观上的“故意”，也不存在驾驶员酒后驾驶、疲劳驾驶、情绪驾驶之类“过错”。又如，道德和法律规范的对象也变得复杂、难以确定了。假如无人驾驶汽车在行驶中发生交通事故，造成了一定的生命、财产损失，那么应该由谁——无人驾驶汽车的设计者、制造者，还是使用者，抑或是无人驾驶汽车自身——来承担相应的道德和法律责任呢？或者更尖锐地，智能系统本身是否可以作为道德、法律主体，承担相应的道德或法律责任呢？如果承认其主体地位，它又如何“承担”这种责任呢？
二、虚拟智能技术的伦理后果
“虚拟”是人的意识的功能之一。但人的意识的“虚拟”存在自身的局限性，如人脑能够存储的信息量有限，信息处理速度有限，思维的发散性有限，人与人之间“虚拟”镜像的交流比较困难，等等。符号、语言、文字、沙盘等技术都在不同程度上外化了人的意识中的“虚拟”功能，但“虚拟现实”却是现代信息技术、特别是虚拟技术发展的产物，智能技术的突破更是将虚拟拓展到了一个崭新的阶段。利用智能技术，机器能够自发地将人的语言、手势、表情等转化为机器指令，并依据这种已“读懂”的指令，通过“逻辑思维”和“类形象思维”进行判断，在此基础之上的“虚拟技术”能够令人身处“灵境”之中，产生身临其境的交互式感觉。
虚拟现实可能带给人们神奇的虚拟体验。一个人甚至可以选择在身体上和精神方面成为一个不同的人，这是过去难以想象的。但这也可能导致一些新颖的伦理问题。人工智能医生可以基于医疗大数据、通过远程医疗方式进行诊断，甚至操控微型智能机器人钻进人的身体，在患者身上准确地实施各种专家手术。与此同时，传统医患之间那种特别的心理感觉——例如无条件的信任、无助时的托付感、温情的安慰等——往往荡然无存，医患心理上甚至可能形成一定的隔阂。智能秘书、教师、保姆、护理员等也可能导致类似的问题。
在各种虚拟的电子游戏中，充斥着无视道德底线的色情、暴力等。例如，在一些暴力性游戏中，人们为了“生存”或者获胜，必须千方百计获取致命性的智能武器，肆无忌惮地进行伤害和杀戮，但在虚拟的电子时空，却根本感觉不到其中的血腥、残酷与非人性。因为没有面对面的愤怒对峙，没有物理意义上的肢体冲突，看不见对手的痛苦表情，此外，似乎也没有造成什么物理上的损害，游戏者往往不会产生任何犯错的意识和愧疚感。久而久之，这难免助长人的“精神麻木症”，影响个体人格的健康发展，甚至令人泯灭道德感，忽视甚至拒绝承担道德责任。典型的案例是：伴随电子游戏长大的一代美国士兵在航空母舰或飞机上发射了导弹，杀伤了大量对方的士兵或平民，却感觉若无其事、如同玩游戏一般。
人们越来越多地生活在三维的电子空间里，终日与各种智能终端打交道，智能设备就像人自身的身体器官，人们越来越多地借助它、依赖它，或者说，离开了它，感觉难以正常的学习、工作和生活。这种虚实一体的虚拟生活充满了不可靠、不真实的幻象，令人难免产生荒诞、无聊的感觉。有些人特别是年轻人过度沉溺于此，觉得虚拟世界才是真实、可亲近的，而现实社会既落后又“麻烦”，现实社会中的人既“没有意思”又虚伪狡诈，从而变得日益孤僻、冷漠和厌世，产生人际交往、沟通的各种新障碍……有人感叹，虚拟交往既使人从来没有如此的接近，同时又令人觉得一切都是那么遥远——那种接近可能仅仅只是夸张的利益一致或趣味相投，那种遥远则可能是心灵之间亲密沟通的遥不可及。
虚拟智能技术还在不断尝试突破，应用前景不可限量。虽然任何虚拟都具有一定的现实基础，但是，当意识虚拟被技术外化时，人所面对的是一个“虚拟”与“现实”交错、“现实性”与“可能性”交织的奇妙世界。虽然智能化的虚拟实在拓展了人们的生存与活动空间，提供了各种新的机会和体验，但同时，传统的道德观和道德情感正在被愚弄，伦理责任与道德规范正在被消解，社会伦理秩序濒临瓦解的危险。
来源: 社科院网站
关注同花顺财经微信公众号(ths518)，获取更多财经资讯
本文来自投稿，不代表本人立场，如若转载，请注明出处：http://www.souzhinan.com/kj/223484.html