何怀宏:如果人工智能新物种出现

如果这个风险真的发生,变为现实危险,这就意味着不仅人类的精神文化没有了,文明没有了,甚至人类也将不存,比“核冬天”发生、人类被打回石器时代还可怕……如果是人工智能或者在基因编辑基础上新的物种出现,这样一种造物,就像刘慈欣所说的,“我消灭你,与你无关”,跟你好坏或者有无爱恨,没有关系。我需要这些资源,你可以成为我的资源,这就够了,我就可能毁灭你了。我跟你没有什么爱恨也无所谓道德,我能力上可以毁灭你,就够了

(本文首发于南方人物周刊)

图/本刊记者 梁辰

每个中秋前的周五,都是北京最堵的一天。今年赶上国庆中秋双节重叠,9月25日傍晚的东三环寸步难行,北京大学哲学教授何怀宏和博士生一起坐地铁到国贸一家书店参加一个对谈。事实证明,他充分预判了交通,是当晚三位嘉宾中唯一准时的。

科幻作家郝景芳花了比平时多出两倍的时间才从家里移动到活动现场。另一位嘉宾是清华大学教授孙富春,因为一个国家级人工智能项目评审会议的耽延,后半段才加入到分享讨论中。

当晚对谈的主题围绕着何怀宏的新书《人类还有未来吗?》展开。这本书集纳了何怀宏自2017年以来对技术带来的伦理和哲学问题的持续思考。

在技术和资本乘风破浪的当下,何怀宏说自己所发出的声音“很微弱”。他的观点十分鲜明,“限制发展通用人工智能”和“禁止机器人拥有暴力”的立场甚至有些强悍,一贯以温和、宽容为思想底色的他认为这样的建议决非危言耸听,而是出于对人类文明的珍惜,是为确保脆弱而珍贵的碳基生命存续的“底线思维”。

和大多数人一样,何怀宏自2017年AlphaGo完胜世界排名第一的围棋国手柯洁才开始关注人工智能,在此之前,他对科技并无兴趣,连科幻电影都不太爱看,“觉得那太虚幻,而现实生活中有许多紧迫的问题。”此前久无突破的人工智能因算法革命而落地生风加速成长,令何怀宏突然意识到“技术才是我们时代的‘最大真实’”,并且“警觉到近代以来人们精力投向的一个根本转折,就是开始了以驾驭物质和技术为主导的价值追求。而这种追求如果越来越强,一意疾行,有可能导致在推进文明的同时也走向文明衰退”。

三年多的观察和思考,何怀宏谈论人工智能已经相当专业。这个大热的领域一直不缺警示牌,但过往讨论(包括有限的反对意见)更多是来自科学界,围绕着AI的技术表现和限制,科学家更多的是宽慰人——固然这是一个堪比工业革命的颠覆性创新,但技术突变“奇点”还遥不可及,机器只是在某些单项技能上本领过人,百年内难见堪比人类的通用人工智能。

但何怀宏认为以人工智能、基因工程为代表的高科技将带来“人自身难以预测的严重后果”。他敏锐地指出,百年对于人类社会只是一瞬,“人类精神文化的其他方面与科技文化相比,已然显示出某种落后、停滞甚至无可挽回的衰落样态。”

“如果我们在应对挑战方面完全无所作为,甚至走错方向,人类还有未来吗?或者说会有怎样的未来?”

郝景芳说自己非常理解何怀宏教授的思虑,她写过反技术乌托邦的科幻小说,小说集《人之彼岸》中有个故事就是以闯入者的视角,进入到一个人类完全向人工智能出让了决策权的未来社会。她说自己在写作中对技术是持反思和悲观主义立场的,“科幻是现实的预警,今天的我们也在慢慢地把自己的思考和决策权交给系统,比如地图找路,我们越来越习惯用导航,比如时间安排等,它慢慢跨越到我们的生活领域,越来越多地去替我们做这样那样的安排。”

但生活远比小说复杂,相较于小说中的极端,现实中的边界是模糊的,“哪里是一个明确的边界,哪里是我们必须保留,一定要由我们自己来思考,绝对不能让人工智能系统替代,是我们独立思考独立人格的最后的边界?”郝景芳坦言,“我其实不是特别确定。”

现实生活中,她对待科技反而是一个“积极的行动者”,希望自己能够善用技术,并且对技术也怀有善意,“我不认为人工智能会想要消灭人,我也不认为人的主体性会因人工智能而消失,人只会因为自己不进步而成为落后的物种,只会因为自己不思考而丧失主体性。”

选择积极拥抱技术和变化还有一个原因,本科学物理学的她有许多从事科学研究的朋友,也常与科学家交流,从科学工作者身上,她看到未来技术发展的“不可阻挡性”。她曾在一个活动上做主持人,采访几位科学家,问他们如何看待基因科技对人类基因的改变。

在场科学家们的回答非常一致,“他们说固然有一定伦理风险,但这个事是挡不住的,一定会有科学家往前推动,你挡也挡不住的。所以其实从科技工作者来讲,他们是非常实际地看待这个问题的。我想既然挡也挡不住,我们就只能积极行动,推动技术往好的方

登录后获取更多权限

立即登录