“AI数字人”屡成诈骗工具：新型技术为何催生新型作恶 | 快评

原创 2024-01-03 南周快评

古希腊哲学家普罗泰戈拉有言，“人是万物的尺度”。纵观“科技向善”“科技以人为本”“机器人不得伤害人类”这些著名概念，核心要义都是“技术不得作恶”：解放了的普罗米修斯虽已盗取了火种，但仍在呼吁一种能够通过自愿节制而使其权力不会导致人类灾难的技术伦理。

王兢

责任编辑：陈斌

据新华社消息，杭州上城区网警近日破获一起重大勒索病毒案件。经警方侦办，四名犯罪嫌疑人全部落网，他们均有供职大型网络科技公司经历，对于分工负责编写勒索病毒版本、借助ChatGPT进行程序优化、开展漏洞扫描、渗透获取权限、植入勒索病毒、实施敲诈勒索的犯罪事实供认不讳。

本案中“ChatGPT优化”的案情引人瞩目。事实上，AI用于犯罪的案件也已屡屡出现：在2023年包头警方公布的案件中，骗子利用AI换脸和拟声技术骗走了受害人430万元；近日据昆明警方通报，不法分子“替换声音面容”谎称绑架了在深圳工作的女儿并索要赎金六十万元，所幸人在昆明的父母并未受骗。

AI技术不光能”帮助优化程序“，如今已经有能力依照一个自然人的音频、影像、语料，近乎1：1地“克隆”出一个“数字人”，复制与再现自然人的表情、口型、措辞、音色、语调与讲话风格，诸

校对：胡晓

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有，任何第三方未经授权，不得转载，否则即为侵权。