AI其实不知道它在说什么，万物皆向量。当你问到某个向量涵盖的维度之外的问题，大概率就会经历AI幻觉。 “其机制就是我要讨好你，因为我要服务好每一个用户。你如果不断否定它，它就不断退缩，哪怕它是对的，它也认错，向你道歉。”

截至2025年3月15日，总计32家银行宣布接入DS，其中10家是地处一隅的农商行。技术将消减马太效应？ 智能客服、智能风控和财报数据分析是DS集中赋能银行的应用场景。银行网点数字化水平可能超出客户想象，比如机器人主动识别客户的情绪。 不可否认的是，DS并未根本上解决人工智能领域长期存在幻觉、信息安全和算法“黑箱”等问题。这对于金融业是一个严峻的挑战。 在协议中，银行应向客户充分说明AI决策的影响因素及申诉渠道，增进客户对AI决策逻辑的理解。

“这次我的政策建言里面，就提出要打造AI就业友好型社会。可以预见，人工智能将重塑劳动力市场，这一趋势已不可逆转。” “生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。”