专访戴锦华：我质疑技术乐观主义，马斯克叫停AI非常滑稽

知名学者戴锦华，1959年生于北京，北京大学中文系教授、博士生导师。（受访者供图/图）

2023年4、5月间，B站上以AI孙燕姿为名仿真翻唱的许多流行歌曲迅速走红，包括周杰伦的《发如雪》《爱在西元前》、王杰的《一场游戏一场梦》、万能青年旅店的《杀死那个石家庄人》。网友戏称：“一首歌没唱的孙燕姿，竟然占据了华语歌坛半壁江山”。

5月22日，孙燕姿对AI做出回应：“无论是ChatGPT还是Al或者你想叫它什么名字，这个‘东西’现在能够通过处理海量的信息，同时以最连贯的方式拼接组合手头的任务，来模仿或创造出独特而复杂的内容。等一下，人类不就是这样做的吗？……讽刺的是，人类无法超越它已指日可待。没有人可以接触到如此大量的信息并做出恰当的抉择或犯下恰当的错误（OK，也许我领先一步了）。这种新技术将能够大量炮制每个人所需的一切。无论你多么小众、多么反常或者精神多么错乱，都可能有专门为你创建的独特内容。你并不特别，你已经是可预测的，而且不幸你也是可定制的。”

而在3月底，包括特斯拉创始人马斯克在内的多位科技界知名人士签署了一封公开信，称希望世界领先的人工智能实验室暂停开发6个月，因为最近的人工智能进展“对人类社会造成了潜在威胁”。

信中写道：“先进的人工智能可能是地球史上浓墨重彩的一笔，我们应该规划和管理它。不幸的是，这种高级别的规划和管理并没有发生，导致近几个月世界顶级的人工智能实验室陷入了一场失控的‘比拼’。研究者只顾着开发和部署更强大的数字思维，但他们自己可能都无法预判人工智能的未来走向，更不能可靠地控制人工智能。”

作为一个AI研发工程的深度参与者，马斯克的公开信引起了轩然大波。这封信的发布时间，正好是在马斯克创立的人工智能研究公司OpenAI发布ChatGPT最新版本GPT-4两周后。

早在六年前AlphaGo横空出世之时，北京大学教授、知名学者戴锦华就用“临渊回眸”来形容人类的处境。她指出，这一轮以人工智能、数码转型为代表的新技术革命，我们“完全未经抵抗，几乎未经讨论”。

面对2023年更加来势汹汹的AI浪潮，戴锦华会做出怎样的“诊断”？近日，南方周末记者在北京大学对她进行了专访。

采访结束后，戴锦华来到了北大课堂，这天下午，她讲完了本学期最后一次中国电影史课程。戴锦华向学生致歉，因为太忙，她还是没能准备PPT。尽管她以十分古典的方式，仅靠滔滔不绝的语言成为教室的焦点，但环绕着她的，仍是各种先进的电子设备。南方周末记者向戴锦华展示了录音笔上的标语“听见AI的声音”，她不解地皱了皱眉头。

近来，以AI孙燕姿为名仿真翻唱的许多流行歌曲迅速走红，“AI孙燕姿”成为顶流，歌手孙燕姿对此做出了长文回应。（视觉中国/图）

流行文化会最早受到AI的冲击

南方周末：你怎么看待AI孙燕姿成为流行文化的热门？

戴锦华：我觉得这实际上只是冰山一角，可能AI最直接冲击的就是大众流行文化的观念。因为流行文化工业的特征就是类型化，类型化可以复制再生产，而AI应该是可以胜任的。类型就在于重复和变奏，AI一定会比任何一个制作者都掌握更完备的资料库。比如说，西部片、惊悚片，很难有人看尽，对吧？但AI就可以看尽，这也就意味着它熟悉所有的套路。理想的状态之下，它能做出最巧妙的变动。那么在这个意义上说，流行文化的生产者会最早、最直接地受到冲击。

我们原来所说的，尽人皆知又很难定义的原创性，仍然是人类的特征。但AI作为一种硅基生命，通过自主学习、自主成长，能不能成长出所谓的原创性？我觉得是完全可能的。可是，我仍然认为人性的特征就在于：它不可测量，不可描述，不可限定。

所以我不认为AI能够自主生产出人性，它大概会在理性和智慧的意义上走得很远，但是我不认为它能够复制人类所有的荒诞、所有的不可捉摸和差异。

而且我也认识到，至少这一次ChatGPT体现出的批判性思维很少。那种证实和提供合法性、复制再生产的东西可能会最直接地受到冲击。而批判性的思考，不管多么发达、高超的人工智能，都暂时无法替代。

不久前我在社科院做演讲，孙歌（中国社会科学院文学研究所研究员）做我的回应人，她认为威胁在于，AI开始生产出一种感情，而人类反过来会被