何怀宏　警惕人工智能 | 2020魅力人物

对于人工智能，何怀宏的立场十分鲜明——“限制发展通用人工智能”、“禁止机器人拥有暴力”。在人类借助技术掌控世界的当下，他直言人类精神世界的下坠，大声疾呼以人工智能、基因工程为代表的高科技将带来“人自身难以预测的严重后果”，“如果我们在应对挑战方面完全无所作为，甚至走错方向，人类还有未来吗？”谈的是AI，眼光始终在人身上。对一个学者来说，在旷野中呼喊，永远是最诚恳的学术态度

“我说的可能不对”，“我承认自己的无知”，做学者采访这么多年，很少听到有人像何怀宏教授这样说话。

何怀宏1988年毕业于中国人民大学，获哲学博士学位。20世纪80年代主要研究西方哲学、伦理学并从事翻译，90年代迄今专意于伦理学原理和中国历史文化，并进入应用伦理学的一些研究领域。

勤奋的他著作丰厚，有许多重要学术著作，如《良心论》、《底线伦理》、《生生大德》等。他从传统正义的角度写了两部解释中国社会历史的著作——《世袭社会》与《选举社会》。对精神信仰与现代社会的关系他也高度关注，著有《生命的沉思》、《道德·上帝与人》等。

何怀宏也是马可·奥勒留《沉思录》的译者。《沉思录》是温家宝最爱的一本书。2007年11月，时任国务院总理温家宝在出访新加坡接受记者访问时说，“这本书天天放在我床头，我可能读了有100遍。天天都在读。”

图/本刊记者 梁辰

何怀宏曾两次接受本刊专访，2020年中秋节前，我们再次约他专访，话题与此前集中在人文社科领域的思考有些不同，这一次我们谈的是人工智能（AI）技术和基因工程对人类未来的影响。2020年，何怀宏出版了新书《人类还有未来吗？》，这本书集纳了他自2017年以来对技术带来的伦理和哲学问题的持续思考。

何怀宏认为以人工智能、基因工程为代表的高科技将带来“人自身难以预测的严重后果”。他敏锐地指出，百年对于人类社会只是一瞬，“如果我们在应对挑战方面完全无所作为，甚至走错方向，人类还有未来吗？会有怎样的未来？”

这绝非危言耸听。“工业革命带来了比我们更强大的机器，信息革命带来了比我们更聪明的机器。”美国麻省理工学院物理学家马克斯·泰格马克（Max Tegmark）称，“哪怕生命中出现‘奇点’的概率只有1%，合理的预防措施就是至少投入GDP的1%来研究并决定如何应对它。”

美国计算机专家斯图尔特·罗素也在他的新书《AI新生》中说自己从2014年开始反思，并从那时便公开承认，“我的研究领域对我自己所属的物种构成了潜在危险。”斯图尔特教授与谷歌研究总监彼得·诺维格1995年合著出版的《人工智能》被视为业界标准教科书，多年来不断再版发行，被128个国家、1400多所大学作为教材使用。

即便AI在安全部署上的问题都能得到妥善解决，即便AI始终执行设计者输入的“善良意志”，人类还是需要很长时间来接受这种智力优势的倾覆。如何防止人类智能的退化、修复自信心的崩塌、调适并重建自身价值体系，以及对失业造成的问题有足够深刻的预判，技术投向市场前合理的政策更新与调控，这些都是不亚于“奇点会否来临”的重要问题。

每当与老年人谈论AI可能给未来社会带来的变化时，非常惊奇的是，他们反而更敏锐地看到要害——权威感的丧失、知识的老化以及控制力的下降，这些都是老年人在信息社会里已经生发的深切痛感。在智能时代，这种感受是否会成为绝大多数人的普遍感受？换言之，被AI消除了自身劳动价值的人类，会不会整体提前步入心理状态上的暮年？

何怀宏的观点十分鲜明，“限制发展通用人工智能”和“禁止机器人拥有暴力”的立场甚至有些强悍，一贯以温和、宽容为思想底色的他认为这样的建议决非危言耸听，而是出于对人类文明的珍惜，是为确保脆弱而珍贵的碳基生命存续的“底线思维”。

在技术和资本乘风破浪的当下，何怀宏清醒地意识到他所发出的声音“很微弱”。

在技术跃升时思考人生意义与人性根基是人文学者最宝贵的价值，2002年福山就曾针对生物技术可能造成的危害，写下《我们的后人类未来》，发出预警，“生物技术会让人类失去人性……但我们却丝毫没有意识到我们失去了多么有价值的东西。也许，我们站在了人类与后人类历史这一巨大历史分水岭的另一边，但我们却没意识到分水岭业已形成，因为我们再也看不见人性中最为根本的部分。”

人工智能所塑造的社会和系统与我们每个人都深度相关，这些旷野的呼声值得公众和政策制定者倾听警醒，而你我都不应该懒惰懈怠，将自己和后代的未来毫无戒备地让渡给相关领域的大公司和技术。