陈楸帆的全球飞行:从联合国气候大会到ChatGPT,两大行星级议题交织

当人们谈到AI,常说应该让AI与人类的价值观对齐,“但问题是人类社会内部的价值观都不对齐。”

“到最后人类还是不可能被如此简单机械地还原成一堆数据。”人类讲故事的能力,提供了让我们能够超越个体去凝聚共识,完成更复杂、更大规模的工程的可能性。

“在之前那个草根互联网时代,已经出现了所谓新中心化的局面,而在即将到来的AI时代、大模型时代,会更加中心化,但这之后可能又会迎来一个新的去中心化的时代。”

责任编辑:周建平

陈楸帆,科幻作家、耶鲁大学访问学者、中国作家协会科幻文学委员会副主任,多次斩获星云奖、银河奖、世界奇幻科幻翻译奖等国内外奖项(图/受访者提供)

陈楸帆,科幻作家、耶鲁大学访问学者、中国作家协会科幻文学委员会副主任,多次斩获星云奖、银河奖、世界奇幻科幻翻译奖等国内外奖项(图/受访者提供)

乘飞机抵达迪拜后,来参加第28届联合国气候变化大会的陈楸帆想,怎么把自己这一程的碳排放给抵消掉。

这场有史以来规模最大的气候变化大会充满了争议,7万多人的参与让大会自身的碳排放就已经不可估量。在一座沙漠中的化石燃料之城,来自167个国家和地区的领导人及官员探讨如何逐步淘汰化石燃料,然而直到原定的闭幕日12月12日也未能达成全球协议,会议在激烈谈判中不得不延期一天。面对全球变暖之下近年频发的极端天气事件,联合国秘书长古特雷斯表示,“气候变化是我们这一代人的生存威胁。”

作为科幻作家,陈楸帆觉得这一次的参会过程就像走在科幻片里,“很多既讽刺又现实的场景,让你不停有一些反思和想法。”他准备把这些观察写进他的科幻小说。

陈楸帆(左)参加联合国气候变化大会 图/受访者提供

陈楸帆(左)参加联合国气候变化大会 图/受访者提供

近两年,陈楸帆过着全世界跑的生活,2023年的行程加起来已经可绕地球四圈。11月中旬,他受邀参加巴黎和平论坛,在一场围绕AI未来的讲座中,他说到新时期的“算法奴役”,人们被强化偏见的算法、放大自我的社交媒体,以及将最狭隘的观点不断反弹的信息孤岛所包围。在他看来,人类意识中的缺陷和弱点塑造着社会结构、左右着政策制定,“当这些局限性不仅是内在的,且被科技故意操纵和放大时,其后果可能是灾难性的。”

这份活动邀请,源于2022年陈楸帆的两本书《荒潮》《AI未来进行式》的法语和德语译本的出版及欧洲市场的反响。前者是讲述中国电子垃圾危机和气候不平等的小说。后者是他和李开复合著的书,两人是在谷歌工作时的同事。

2019年,李开复找到陈楸帆,想合力完成一本展现20年后被AI技术深刻改变的人类社会图景的作品。他们阅读了海量论文,与业内专家交流,参与AI工作坊,走访相关创业公司。成书《AI未来进行式》采用科幻小说加科技评论的形式,以合乎逻辑的方式推演人工智能将在20年后达到什么水平。

2023年,两人再见面时,都认为当时的预测太保守了。“书里写的很多故事都不需要20年,有可能5到10年就会变成现实。”陈楸帆说。当人们谈到AI,常说应该让AI与人类的价值观对齐,“但问题是人类社会内部的价值观都不对齐。”

“整个世界的现实图景已经高度复杂化、抽象化,它远离了我们日常经验的限度。”陈楸帆觉得,这正是科幻小说在技术加速年代的魅力所在。在学者杨庆祥看来,好的科幻小说善于通过技术想象展开“思想实验”,“不停地与固化的秩序和意识形态进行思想的交锋,不惮于创造一种全新的生存方式和建构模式——无论是在想象层面还是在实践层面。”

接受南方人物周刊记者采访时,陈楸帆刚刚落地韩国首尔,将参加另一场关于人工智能与气候变化的峰会。几年前,陈楸帆就开始用AI写小说了,也亲身经历着AI技术迭代的过程,“因为未来不会等你。”他说。

陈楸帆在爱丽舍宫向法国总统马克龙(右)赠书 图/受访者提供

陈楸帆在爱丽舍宫向法国总统马克龙(右)赠书 图/受访者提供

“超级对齐”,还是“有效加速”?

人物周刊:前几天我要交一份材料时,后知后觉地意识到应该让ChatGPT来写,一是更高效,二是它可能比我的格式更准确。你已经在这条路上践行几年了,你经历的AI技术迭代过程是怎样的?

陈楸帆:我在2017年开始与AI共同写作,那时Google推出了Transformer模型架构,现在ChatGPT也是基于这个框架发展而来的。当时我找到了创新工场AI研究院执行院长王咏刚,编写代码、构建模型、用数据训练,使用我的小说作为数据。这个项目虽然还处于早期阶段,算法和数据规模都很小,但我们进行了一些实验性尝试,还拿了一个上海思南文学选刊的奖项,赢了莫言老师,是一个挺有意思的过程。

在2020年,我们进行了升级,使用更大的参数规模,类似于GPT-2,并利用更多语料训练了一个名为“AI科幻世界”的工具。我们邀请了十几位作家

登录后获取更多权限

立即登录

校对:赵立宇

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

{{ isview_popup.firstLine }}{{ isview_popup.highlight }}

{{ isview_popup.secondLine }}

{{ isview_popup.buttonText }}