32家银行抢跑DS落地,如何向客户解释黑箱算法?
截至2025年3月15日,总计32家银行宣布接入DS,其中10家是地处一隅的农商行。技术将消减马太效应?
智能客服、智能风控和财报数据分析是DS集中赋能银行的应用场景。银行网点数字化水平可能超出客户想象,比如机器人主动识别客户的情绪。
不可否认的是,DS并未根本上解决人工智能领域长期存在幻觉、信息安全和算法“黑箱”等问题。这对于金融业是一个严峻的挑战。
在协议中,银行应向客户充分说明AI决策的影响因素及申诉渠道,增进客户对AI决策逻辑的理解。
责任编辑:丰雨
在DeepSeek(下称“DS”)引发全球新一轮AI旋风之际,一向求稳的银行业正积极拥抱DS带来的技术革新。
2025年3月8日,中国工商银行宣布,完成DS最新开源大模型的本地化部署,并将其接入原有大模型矩阵体系。工行称,将充分发挥开源大模型在强推理与复杂数据处理等方面的优势,构建财报分析助手和AI财富管家等十余个典型场景。
作为“宇宙第一银行”,工行公开“录用”DS具有标志性意义:这或许在某种程度上象征了银行业对这一科学技术落地运用的认可。
国有大行序列中,除工行外,邮储银行和建设银行均有相同举动。邮储银行总行相关负责人在接受南方周末新金融研究中心调研时表示,基于技术领先性、成本效益比和多样化的场景应用能力,“接入DS是必须要做的事”。完成本地化部署后,邮储银行在智能客服、智能风控和精准营销等多个领域均实现技术上的突破。
事实上,在这场因人工智能升级触发的数字化新赛道中,中小银行亦表现出与大型银行的一致性。南方周末新金融研究中心调研得知,截至3月15日,总计32家银行宣布接入DS,其中不乏区域农商行和农信社。
DS是否能拉近中小银行与大型银行间的技术差距,进而打破金融科技于不同主体间的马太效应?银行业如何在技术创新与安全合规间实现动态平衡?南方周末新金融研究中心通过调研银行和相关专家发现,中小银行确实在接入DS一事上更加积极。在抢跑赛中,AI的幻觉、算法黑箱等问题成为银行从业者亟须解决的难题。
中小银行抢跑新技术落地
南方周末新金融研究中心调研发现,在已宣布接入DS的32家银行中,其中10家是地处一隅的农商行。按数量及机构类别排序,往后依次是城商行(6家)、民营银行(5家)、股份行(4家)、国有银行和农信社(各3家)和政策性银行(1家)。很明显,在接入DS一事上,中小银行表现出较为浓厚的兴趣。
“我们是国内首批接入DS大模型应用的金融机构之一。”青岛农商行相关人士对南方周末新金融研究中心研究员称,按照工作流程,他们是2025年2月10日正式对外公布,但实际接入时间更早。
按时间线来看,包括重庆农商行、永州农商行均在2月份对外宣告完成接入DS。城商行序列中的江苏银行、成都银行、重庆银行、北部湾银行和中原银行亦是如此。相比之下,拥有全国牌照的国有银行和股份制银行动作则略显迟缓。
在金融科技上投入不及大型银行的中小银行为何对接入DS一事如此热衷?
青岛农商银行信息科技部负责人在接受南方周末新金融研究中心调研时表示,较之传统大模型,DS将助力银行在三个方面提升效能:第一,因长链推理模式的革新,信贷审批、风险图谱构建等核心场景的逻辑推理准确率将提升至行业标杆水准;第二,依托开源模型架构与定制化微调方案,DS将赋能中小银行敏捷构建反欺诈评估、智能资产估值等关键模块;第三,有利于数据安全体系升级。本地化部署方案,可通过加密沙箱与数据中台确保“数据不出域”,以达到监管合规要求。
上海金融与发展实验室主任、首席专家曾刚在接受南方周末新金融研究中心研究员调研时亦称,DS为中小银行提供了一种高性价比的解决方案。首先,中小银行能够根据自身业务需求,灵活调整DS模型的参数和功能;其次,DS的开源模式使得中小银行无需投入大量资源进行技术研发,即可快速部署并应用大模型。从成本投入角度而言,DS降低了使用门槛,这使 AI技术在各类银行机构中快速普及。
本地化部署方案是否能够确保金融信息不外泄?另一家金融机构信息部负责人向南方周末新金融研究中心研究员解释称,本地化部署使用的是公司内网,因此不存在公网版DS或是其他AI产品容易导致的信息泄露问题。用本地化部署的方式接入DS,相当于下载了一个空白大脑,然后根据需求对其进行知识投喂、训练和针对性技术开发。
南方周末新金融研究中心调研亦发现,出于数据安全和隐私要求的核心考虑,本地化部署亦是已宣布接入DS银行的主要部署方式。
智能客服、智能风控更智能
DS将赋能银行的哪些业务环节?
南方周末新金融研究中心调研发现,在已公布接入DS的银行中,大多通过运用DS的逻辑推理、多模块运作和语言支持能力对相关业务板块进行赋能。智能客服、智能风控和财报数据分析是DS较为集中赋能的应用场景。
邮储银行相关负责人表示,因拥有强大的语言生成和推理能力,DS将助力该行在智能客服、智能风控、精准营销等领域实现技术突破。以智能客服为例,邮储银行将DS大模型应用于“小邮助手”,新增了其逻辑推理和深度分析能力,以便精准识别用户需求,提供更加个性化和高效的用户体验。
南方周末新金融研究中心统计得知,在已宣布接入DS的32家银行中,包括工行、邮储银行、浦发银行、北京银行、青岛农商行、永州农商行和重庆农商行在内的至少10家银行将此大模型接入其智能客服板块。可以预见,这些银行的智能客服水准将较此前有所改观。
以普惠小微贷款和消费金融为核心业务的民营银行则侧重于把DS嵌入智能风控环节,借此提升信贷审批效率与反欺诈监测准确率。目前已有微众银行、苏商银行和新网银行3家明确此项操作。南方周末新金融研究中心研究员认为,以互联网为“主战场”的民营银行历来重视发展金融科技,尤其是在信贷审批环节。在已有AI技术赋能下,其可用于提交授信审批的材料较传统商业银行多元。此番有了DS的“加持”,民营银行贷款的可得性或将进一步提升。
财报数据分析亦是银行重点关注的领域。南方周末新金融研究中心调研公开信息发现,近10家银行对外宣称其借助DS应用于财报及数据分析领域,进而对多个业务板块进行赋能。
网点机器人能识别客户情绪状态
除上述提及的银行中后台环节更智能化外,与普通老百姓体感密切相关的网点数字化也为业内所关注。邮储银行、青岛农商行和江苏仪征农商行均表示,要通过DS提升网点金融数字化水平。
前述青岛农商银行信息科技部负责人称,在提升网点数字化水平方面,DS可以结合RPA(机器人流程自动化)技术实现开户、转账等标准化流程的自动化;通过分析网点内客户的交互数据(如停留区域、咨询内容等),生成客户画像并优化营销策略,提供涵盖基本信息和产品推荐话术等在内的个性化营销方案。与此同时,DS还可以支持网点的数字标牌系统实时推送理财产品和汇率等信息,优化客户动态管理等;员工内训方面,DS可以模拟真实业务场景,为客户经理提供沉浸式培训范式。
工行软件开发中心专家朱国平近期撰文指出,DS在银行网点具有广泛深远的应用潜力。其核心价值在于提升客户服务水平和赋能员工提质增效。通过深度融合具身智能机器人、数字人交互、端云协同推理等新兴技术,DS能够重构银行网点的服务流程与运营模式,推动传统服务向智能化、精准化方向升级。
朱国平预判,未来,DS驱动的具身智能机器人或数字人可承担银行网点的第一触点服务。通过多模态交互技术(如语音识别、视觉感知、语义理解),机器人能够主动识别客户身份、情绪状态及服务需求,提供个性化的问候与引导。例如,针对老年客户自动切换为简明语音交互模式,对高频业务需求客户直接推送自助服务入口,从而实现服务触达的精准分层;在业务办理过程中,DS可依托增强现实(AR)或数字人交互界面,提供可视化的操作指引。例如,在理财产品购买环节,系统能通过动态图表解析风险等级与收益结构,辅助客户决策。此外,机器人可联动网点设备(如自助终端、叫号系统),实现跨终端服务衔接,减少客户等待时间。
人工如何干涉智能?
DS的开源及低成本特性使得AI技术在银行业中更为普及,一定程度上打破了“强者恒强、弱者恒弱”的马太效应。借助此波浪潮,各类型银行的多个业务板块或将实现技术升级。但不可否认的是,DS并未根本上解决人工智能领域长期存在幻觉、信息安全和算法“黑箱”等问题。
北京计算机学会区块链与数字金融专委会副主任、北京德恒律师事务所合伙人刘扬在接受南方周末新金融研究中心调研时表示,引入DS于金融机构而言是把“双刃剑”:一方面可以提高工作效率,但另一方面,银行作为金融业的核心,数据庞杂且极具敏感度,亟须在技术创新与安全合规中寻找动态平衡。他建议,银行应采取三种严谨防范措施,以应对AI应用中产生的决策失误、信息泄露等风险。
一是,在对用户数据进行收集时,采取“最小化原则”,即只在用户知情同意的前提下收集必要信息,并规范数据保存周期,制定严格的数据收集、存储、传输、保存、销毁规范,以防用户信息遭受滥用和泄露;二是,在部署DS时,银行可采取私有化、本地化存储部署方略,在对数据作脱敏处理后再运用大模型加以处理,防止信息外流;三是,针对AI模型在生成内容时出现的幻觉现象,银行在采取如多模态交叉验证和知识图谱技术对生成内容进行核验外,还需在关键领域保留人工审核岗位,通过分层级管理降低AI技术导致的决策失误风险。
针对算法“黑箱”问题,刘扬认为,AI算法的“黑箱”特性不仅涉及信息技术,更是技术复杂性和公众信赖度之间的矛盾。例如,利用AI算法进行贷款审批时,银行可能会根据收集到的客户数据进行风险评估和决策。但因AI“黑箱”特性,银行难以向客户解释贷款审批结果的依据,此时决策出现失误的风险就大大增加,监管机构也难以介入算法公平性和合规性的监管。
为应对金融监管要求,银行可以在技术方面,引进LIME和SHAP等模型解释工具,解读大模型的决策逻辑。在监管方面,银行可以组建跨领域的职能团队,审核模型在实际运用中的合法、合理性,在贷款审批等高风险场景中保留人工审核环节,确保AI决策的妥善性。在客户体验方面,在用户协议中向其充分说明AI决策的影响因素及申诉渠道,通过透明化服务协议,增进客户对AI决策逻辑的理解。
校对:星歌
参与评论