马上消费CTO蒋宁：安全合规的可信AI是大模型持续发展的根基

在数字化浪潮下，科技带动金融业变革的加速度超乎想象，特别是大模型推出以来，给行业带来的革命性变化。

11月10日，在2023金融街论坛全球金融科技大会上，行业专家、资深学者和众多金融机构代表围绕“倡导负责任金融理念 共建数字金融新生态”展开激烈讨论。马上消费副总经理兼CTO蒋宁受邀出席本次论坛，并结合公司可信AI在大模型应用中的实践与探索做了精彩分享，为业内带来了关于科技助力金融伦理建设的探索与思考。

立足“算法、数据、算力”三个维度应对安全合规挑战

作为深深扎根金融业务一线的资深专家，蒋宁认为，大模型新技术给行业带来了很多期望，使很多领域出现新机会，但同时也面临着安全、合规、算法和生态四个方面的挑战，以及在算法、数据和算力这三个层次也带给我们诸多焦虑。

首先，大模型面临着来自安全、合规方面的挑战。“在谈大模型决策之前，首先要保证数据安全。我们要解决数据从哪里来，并有效地组织管理起这些数据。”蒋宁表示。目前数据的使用者、加工者、统筹者、利用者和管理者权益是分离的，需要从传统的“君主制”数据管理向“联邦制”数据管理构建，既有统筹、又有专业，既有应合、又有整体，才能有效规避大模型的潜在金融风险。

其次，大模型在鲁棒性决策中存在着巨大挑战，大模型的可靠性依然存在巨大风险。蒋宁认为，“大模型在交易安全、生命安全等领域，在相当长一段时期里依然面临着巨大挑战，特别是在自动驾驶、医疗卫生等关乎社会安全和生命安全的领域，大模型还不能给出100%的正确建议，我们应该有效地利用大模型的建议，并对它进行有效管理”。

最后，大模型的挑战还来自生态建设。良性大模型的构建需要行业各方共同努力，以实现各方共享大模型的技术红利。对此，他表示，“大模型技术还没有形成一个连续学习和强化学习的机制，我们要在联邦学习的基础上，发挥群体智慧，来实现互利共赢。特别是在金融领域，各家金融机构要利用自身数据优势，建立起共研、共创、共享的生态机制”。

为什么大模型在金融行业的标准要求高，挑战多？归根结底，金融行业是一个计算密集型、数据密集型、信息密集型行业。在金融科技创新的过程中，最敏感的数据被当成了一种新型的生产要素，并且还全面参与了各类金融业务场景当中。

在这一过程中，数据与算法所映射出来的人、财、物和现实中的人、财、物交织在一起，使得原来的人与人之间、人与物之间、人与资本之间的关系发生了巨大变化、出现了诸多挑战，在此影响下就产生了各种金融科技伦理问题。

对于大模型的安全合规建设，马上消费从算法、数据、算力这三个维度做了一些有益的尝试和探索。

在算法层面，基于集成操作系统，马上消费已构建起2000多个机器学习小模型，通过自我连续学习实现在线决策，基于多层防御增强金融模型的鲁棒性。

在数据层面，马上消费通过高质量且合规的数据，有组织地投入到大模型，目前已累加100PB数据和20多万张数据库表，依托10多万个变量和特征，搭建起2000多个风控模型，形成行业领先的数据生态，实现全息用户级、全景环境级的数据资产。

在算力层面，马上消费“天镜”大模型在自动化营销、风控等业务环节广泛应用，目前平台拥有智算中心算力200PFlops和1万余台服务器支持，以此来保障平台每秒150万次运算和每月30%的算力增长。

回头来看，这些技术细节和解决方案的提出，无不建立在马上消费深厚的科研积累和长时间的数字化实践之上。

坚守安全合规前提，共建金融大模型新生态

为了能给更多同业机构系统性布局金融大模型提供样本参考，蒋宁在会上以马上消费真实的营销场景为案例，从基础设施安全、数据安全和算法安全这三个方面，系统性拆解了如何安全合规地落地金融大模型。

他举例道，“我们对安全合规的检测，不仅要保证金融服务的安全合规，还要保证服务系统的安全合规。我们会系统性筛查每一位消费者的电话，避免消费者的对抗、诱导等行为，我们要保证每天每一通电话都是符合安全标准的。”

对于金融行业大模型全域标准规范建设，马上消费也积极探索，努力从构建基础设施、金融全域数据规范、金融算法规范和金融应用规范等四个维度寻求突破，通过对自身基础设备规范、数据采集、数据处理、模型合规、模型可信等环节的筛查把关，构建起一套完整的大模型安全合规应用评估体系。

对此，蒋宁还表示“金融大模型行业标准需要行业共建，完善生态，建立数据共享的机制，马上消费有幸参与重庆大模型联盟，积极推动行业的发展，相信未来在监管机构、协会和同业机构的共同努力下，金融大模型客观能力评价和行业标准也将尽快落地”。

上游新闻 周洁

编辑：杨京责编：彭光瑞审核：毛丹