多重挑战促使金融机构审慎使用大模型 差异化实施路径能否“柳暗花明”
随着AI大模型技术兴起，越来越多金融机构正积极拥抱这项全新的科技。
今年以来，工商银行、农业银行、中国银行、交通银行、招商银行、中信银行、兴业银行、华夏银行、浙商银行等众多金融机构，都在积极探索大模型在金融领域的应用。与此同时，腾讯、蚂蚁集团等第三方科技平台也在研发金融大模型，方便金融机构更好地使用这项新科技提升业务竞争力。
与此同时，数据隐私保护挑战、模型定制挑战、安全合规应用挑战、场景扩展挑战、底层算力成本高企挑战，同样令众多金融机构对使用大模型技术持有谨慎态度。
如何破解上述挑战，让大模型技术更好地赋能金融生态高质量发展，正成为金融业界高度关注的一大热门话题。
11月21日，在由21世纪经济报道主办的“2023首席科技官思享会（闭门会）上，众多金融机构负责科技研发的高层们对此纷纷献计献策，助力大模型技术在金融领域的应用走得更稳更好更快。
图片来源：视觉中国
大模型在金融领域落地的具体挑战
中国银行业协会首席信息官高峰在这场闭门会指出，银行业数字化转型需要大模型技术的加持。但大模型在银行业的落地，应具备“三个条件”，即技术成熟度、政策支持、应用场景。
“没有应用场景，新技术就是‘无根之木’。此外，对金融机构而言，合规同样是第一要务。”他强调说。
农业银行研发中心副总经理赵焕芳指出，大模型在金融领域的应用，目前仍处于探索试点的初级阶段，面临着多方面挑战，其中包括数据隐私挑战、模型定制挑战、安全应用挑战、场景扩展挑战等。
“由于金融业对安全合规的要求极高。如何解决大模型的幻觉问题、隐私保护等问题，提升可信可控可解释性，需要金融业界持续关注。”他强调说。金融机构要用好大模型技术，还要重点关注数据样本、基础设施、场景应用、安全部署、协作机制五大关键因素。其中，数据是核心，数据不是越多越好，高质量训练数据才是关键；算力是基础，算力瓶颈是挑战也是机会，开源节流才是关键；场景是关键，场景建设应合理布局。
度小满首席架构师李丰指出，寄希望大模型能在短期带来应用层面快速爆发或场景突破，不是很现实。因为这不是大模型所擅长的，大模型真正擅长的，是知识库压缩、推理、问题拆解、问题解答等底层能力。若要真正体现大模型的价值，一定是与场景深度结合，但这个进程不会很快，尤其是金融场景的新技术应用必须经过反复验证，确定效果才能上线。
民生银行数据管理部总经理沈志勇表示，要判断一家金融企业能否做好大模型，至少应该从算力规模、NLP（自然语言处理）基础、数据积累等维度判断。算力规模影响大模型的迭代速度；大语言模型属于NLP领域，因此NLP能力积累至关重要；而海量文本数据是训练大语言模型的重要基础。
“此外，金融机构应用大模型技术一定要注意安全合规。”他强调说。
中信银行信息技术管理部金融产品IT创新实验室处长陈志明指出，目前金融机构在应用大模型过程，还需要大模型选取、算力制约、应用方向选择等方面挑战。在选取大模型方面，一些千亿级大模型需要较大的底层算力，如何突破算力制约变成一大挑战，在应用方向选择方面，金融机构需密切关注大模型领域已出现哪些比较成功的核心应用，确保金融机构不会遭遇“应用代差”。
马上消费科技创新发展部总经理赫建营指出，就金融领域大模型未来发展趋势而言，其围绕场景金融将呈现三大能力方向，分别是GPT功能私有化、LLM（大语言模型）深层个性化、合规安全的科学决策。
“这意味着金融机构需搭建四层大模型解决方案，分别是通用大模型、知识处理大模型、工具大模型和决策大模型。在这个搭建过程，需要产业链上下游共同协同建设。包括响应国家政策，重视防范风险；突破技术边界，共创数智未来；定义行业标准，规划生态体系；创新场景应用，共享AI新红利等。”他强调说。
海尔消金首席信息官梁树峰直言，考虑到大模型刚面世不久仍存在局限性，企业对大模型未来发展前景保持乐观同时，也在谨慎规划与应用大模型。
金融机构探索差异化解决方案
针对大模型在金融领域应用所带来的诸多挑战，各家金融机构科技部门负责人也在闭门会议给出自己的“解决方案”。
高峰对此提出三点建议，一是当前大模型技术尚不成熟，加之金融行业是一个强监管、高安全的行业，金融机构不妨先内部后外部，短期内不建议直接对客使用；二是注重大模型与小模型协同，不能忽视传统小模型的价值，比如当大模型转换到金融场景，会得到相比原先深度学习算法具备更好创造性的小模型；三是借力知识图谱让大型语言模型更强，通过结合知识图谱，LLM（大语言模型）有望解决缺乏事实知识、幻觉和可解释性等诸多问题；反之LLM也能推动知识图谱发展，让其具备强大的文本和语言理解能力。
在李丰看来，大模型在金融领域的应用，可以先内后外，先从企业内部做提质增效的实验，然后再推到更广阔的应用场景。一方面，内部验证风险更低；另一方面，在打磨内部用户的认知和能力后，可以为大模型后续更广泛应用打下很好的基础。
苏宁银行金融科技主任研究员杜娟透露，当前苏宁银行应用大模型，主要基于两大需求，一是降本增效，二是让金融服务变得更简单，包括客户更简单地使用金融服务，内部员工更便捷地开展工作以提升工作效率。
“对此，我们在数据端，成立了数据资源中心，从数据采集，到数据更新等方面提升银行数据质量，为引入大模型做精准预训练做准备，此外，我们还在探索大模型与某些场景的融合可能性，并构建一个相对成熟的工作体系，为大模型应用落地做铺垫。”她指出。
维信金科首席技术官指出，围绕大模型的应用，企业正考虑三管齐下，一是积极跟进大模型应用，且企业IT部门要与业务部门加强沟通，逐步推进大模型在具体应用场景的落地，令大模型使用场景更具实际操作性；二是要重视控制成本，不要贸然投入大量资源用于那些尚未看到实际成效的场景应用；三是在战略规划层面，中小金融机构要侧重能力封装与应用探索，坚持“谁好用就用谁的产品”，引入更多技术相对成熟的大模型产品提升自身业务竞争力与金融服务体验。
“考虑到大模型的算力与人力成本都比较昂贵，目前我们不打算做底层的大模型训练，但企业也对大模型应用规划了全景图，打算更好地借助内部能力与外部能力，提升大模型在各个金融业务环节的使用成效。”他表示。
值得注意的是，面对黑灰产欺诈攻击日益猖獗与客群下沉所带来的信贷风控新挑战，大模型如何在信贷风控场景成功落地，成为闭门会议的一大热门讨论话题。
腾讯安全副总裁周斌指出，众多银行等金融机构在开展零售信贷业务过程，都会遇到新客群、存量客户精细化运营、拓客新渠道等挑战。但传统调整风控策略阈值的方式，显然无法支撑大规模零售信贷业务的稳定性。这意味着金融机构得进一步推动风控模型的迭代升级，才能占据主动，这恰恰是大模型在风控场景应用落地的一大优势。
“如今，黑灰产运用新技术发动安全攻击的反应速度非常灵敏，甚至部分黑灰产也可能已研发欺诈大模型，能在24小时内不间断生成不同身份特征的用户，向金融业务发起贷款申请。这要求金融机构需加快迭代风控策略和风控模型的速度，否则会遭遇黑灰产组织的技术降维打击。”他举例说。尽管部分金融机构在人才、数据、预算等方面相对不足，但当前大模型的确可以令中小银行或金融机构拥有与头部机构同等水平梯度的风控科技能力，因为大模型在解决小样本风控建模方面具备较高优势。目前，腾讯云风控大模型在持牌消金机构、互金平台、银行、汽车金融等场景拥有大量服务经验，并积累丰富的风控知识，能很好地弥补风控建模样本短缺等挑战。
