“当前市场通用的生成式AI模型具备普适、跨行业通用、模糊语言的特性，而这难以满足银行业对金融专业能力、精准性方面的高要求。因此，如何让生成式AI模型‘说专业的话’、‘说真话’就成为银行业规模化应用生成式AI的两个关键挑战。此外，银行等金融机构对数据安全的高要求也意味着模型的精调和应用都很有可能需在本地进行。”BCG（波士顿咨询）董事总经理、全球合伙人，BCG金融机构专项核心领导谭彦对界面新闻表示。
自2022年底ChatGPT3.5发布以来，生成式AI相关话题热度持续走高，并以惊人的技术迭代和应用演进速度带动了各行业企业的竞相布局。而作为最早应用传统AI技术的领域之一，银行业也正积极试水生成式AI在行业内各领域和场景下的应用。基于此，BCG发布《银行业生成式AI应用报告（2023）》，从生成式AI技术特点、落地场景及大规模普及面临的挑战等方面解析了银行业在推动生成式AI应用过程中面临的核心问题。
报告认为，生成式AI在银行业应用场景丰富。一是可以替代人，完成处理文件、文本要素提取、生成标准化内容等大量重复性较高、简单基础的任务。二是可以赋能人，让AI成为助手，帮助产品经理、财富顾问、信审经理等角色完成更精准的判断，提升关键环节的核心竞争力。
“BCG曾以一家拥有约两万名员工的区域性国际银行为例，初步梳理了该银行前中后台相关部门应用生成式AI的潜力和效益，预计在首年即可为该银行节省约1.5亿美元的成本，占整体薪酬总包的7%左右”。BCG合伙人，BCG金融机构专项核心领导孙蔚对界面新闻表示。
波士顿咨询认为，从0到1训练大模型的成本和难度高企，因此大模型开发能力未来将集中于少数专业机构。对银行而言，主要的落地路径是直接应用市场上已训练好的大模型。但拿来即用，需应对两大挑战，确保答案质量可靠。
一是 “说真话”： 生成式AI的“知识”是基于预训练时已经封装好的“知识”，它的知识并不能及时更新，更没有融入各家银行自身掌握的专属数据和信息。二是“说专业的话”： 大模型虽然有很强的“泛化”知识能力，但在某些专业领域的知识并不一定能掌握得好；每家金融机构内部一些特定的表达要求、表达风格在预训练时也未曾捕捉。
解决上述问题，首先，需要使大模型能基于给定的数据库来生成答案，例如可以将理财经理与客户的对话，理财产品买卖记录输入数据库，由大模型整合形成最终的对话式答案；其次，通过有效的提示词设计，使模型给出契合专业要求的准确答案；最后，直接对开源的大模型进行指令精调，通过修改模型参数，让模型能在有限提示词情况下，生成更高质量答案。
在推动生成式AI规模化应用方面，报告认为，银行可分三个阶段，第一阶段为少量场景的概念验证和局部落地，即选择重点应用场景，快速完成概念验证；第二阶段为开展全场景盘点和体系规划，即基于局部应用的效果和经验，形成规模化实施的顶层规划；第三阶段则为规模化应用落地和体系能力的固化。
“从大模型部署上，银行等金融机构对数据安全要求严格，这也意味着模型的精调和应用都需要在本地进行，确保专属的数据‘不出银行’。” BCG资深董事经理冯志宇对界面新闻表示。
他认为，在合规性方面，目前为了确保数据安全，可以通过服务器本地化来解决。另外，未来对银行需要增加相关质量控制人员，设计质量控制的流程，训练大模型输出的答案专业化、精准化。同时，生成式AI在银行未来发展过程中有可能会改变银行原来的业务流程，甚至是责任认定。这些问题应该怎么去应对？银行是需要做体系化的思考、规划，同时和监管机构进行深度沟通。
