全国政协委员肖新光：大模型既带来了风险，也带来安全助力

全国政协委员、安天集团创始人肖新光常年奋战在网络安全对抗的一线，安天科技的反病毒引擎累计覆盖了超过四十亿部手机终端、PC终端、网络设备和网络安全设备，对于新一轮人工智能带来的安全威胁，肖新光有着最切身的感受。

他观察到了一些新的威胁，比如利用AI生成的钓鱼邮件，有将深度伪造运用于金融诈骗，甚至还有很多恶意软件伪装成DeepSeek的安装包。那么，针对这些威胁，到底有哪些破解办法，肖新光接受了南方周末记者的专访。

全国政协委员、安天集团创始人肖新光。图片来源：受访者提供。

有恶意软件冒充DeepSeek客户端

南方周末：生成式人工智能给国家网络安全带来哪些新的情况？

肖新光：人工智能对安全威胁的加速作用已经产生。过去几年，我们捕获和关注到的APT攻击的钓鱼邮件中，已经出现了AI生成内容，金融诈骗中出现了深度伪造的案例。

同时，大模型平台成为新的攻击目标，例如DeepSeek在年初遭遇的大规模DDoS攻击，我们也快速跟进和提供了相关的样本分析，发布了样本分析报告。

由于人工智能热度很高，恶意软件伪装成人工智能App，在部署包中捆绑木马的案例很多，我们此前就依托国家计算机病毒协同分析平台，发现了冒充DeepSeek客户端的木马样本，并进行了分析响应。

南方周末：Sora为代表的生成式视频大模型，为深度伪造创造了条件。技术上是否可以识别出哪些是人工智能生成的内容？我们普通人应该如何去甄别深度伪造的信息？

肖新光：识别深度伪造目前来看有一些方法，包括基于生理信号比对、基于物理规律分析、基于元数据指纹等，但每种技术方法都有其适用场景和相关前提条件。

如基于生理信号分析，主要是验证微表情等和本人是否一致，前提是需要存储可对比的样本；基于物理规律捕捉分析光影效果是否一致等等，需要相关的算力、元数据指纹等。更多只适用于版权保护等相关场景，而且需要非常完善的配套治理体系。

相关攻击之所以称为深度伪造，就是它已经超出普通人