人工智能在中小银行的应用及风险

当前我国在面部识别、语音识别等人工智能创新应用已进入世界前列，《2022年人工智能领域技术创新指数分析报告》指出，过去5年中国在人工智能领域的专利申请数量位居世界第一，其总量比第二名（美国）以及第三名（韩国）申请的总和还多出一倍。2018年以来，中小银行保险机构主动拥抱人工智能技术，使用人工智能技术提高生产效率、防范经营风险，切实提升了人民群众对金融服务的获得感和满足感。但由于人工智能技术的特殊性，应用不当也可能给银行业带来前所未有的风险。

人工智能发展现状

人工智能是指通过模拟人类智能的方式，使机器能够执行类似于人类的智能行为和决策的科学与工程。凭借先进的算法和强大的算力，人工智能具备远超人类的数据读取、处理、运算、分析、预测能力。经过多年发展，人工智能已进入大规模产业应用阶段，在金融、安防、医疗等多个领域实现应用。

（一）人工智能发展历程 

“人工智能”概念于1956年被提出，早期的人工智能大多数是通过执行预设好的指令来处理特定问题，计算机本身并不“智能”。20世纪90年代，网络技术的发展加速了人工智能的创新研究，代表性的里程碑事件是1997年IBM的DeepBlue（深蓝）击败国际象棋冠军。2011年后，随着大数据、云计算等信息技术的发展，以深度神经网络为代表的人工智能技术飞速发展，在多个领域取得重大技术突破，迎来了爆发式增长，里程碑事件是2016年谷歌的围棋人工智能AlphaGo（阿尔法狗）战胜围棋世界冠军李世石。近年来，大规模预训练模型逐渐取代模型训练方式，Bert、GPT-3、ChatGPT等模型纷纷涌现，模型复杂度不断增加，参数规模不断扩大，研究人员利用海量算力和大规模计算系统进行训练，提供各类人工智能应用服务。

2017年，我国出台《新一代人工智能发展规划》，明确提出到2025年人工智能基础理论研究实现重大突破，部分技术与应用达到世界领先水平，人工智能成为我国产业升级和经济转型的主要动力，智能社会建设取得积极进展的目标。

（二）人工智能的应用现状

当前人工智能的能力主要体现在“听、看、说、思、行”等方面，较为常见的应用场景主要有以下几类：

一是“听”，主要代表是智能语音助手。智能语音助手是将自动语音识别、自然语言处理等人工智能技术结合起来的应用产品。例如百度的“小度”、苹果的“Siri”等。

二是“看”，主要代表为图像识别技术。图像人脸识别是基于人的脸部特征信息进行身份识别的一种生物识别技术。目前银行使用的人脸识别、票据识别均是图像识别技术的具体应用，可有效降低人工工作量，提升工作效率，降低操作风险和欺诈风险。

三是“说”，主要代表是机器翻译、自然语言生成。机器翻译是指利用计算机将一种自然语言转换为另一种自然语言的过程。机器翻译主要基于神经机器翻译技术，该技术在当前许多语言上的表现已超过人类。近两年以ChatGPT为代表的人工智能生成技术则属于自然语言生成的应用，可根据用户输入的文本信息和事先学习的语言模型自动生成文章，并进行自然语言交互。

四是“思”，主要代表是个性化推荐。个性化推荐主要基于聚类与协同过滤技术，在海量数据挖掘的基础上，通过分析用户的历史行为建立推荐模型，为用户提供匹配需求与兴趣的信息，例如商品推荐、新闻推荐等。当前购物网站如淘宝，新闻网站如今日头条，都有使用该技术。

五是“行”，主要代表为无人驾驶汽车。无人驾驶汽车属于“会行动”能力的应用，主要依靠车内以计算机系统为主的智能驾驶控制器来实现无人驾驶，需要使用计算机视觉、自动控制等技术。目前特斯拉的自动驾驶就是无人驾驶汽车的代表。

（三）基于大模型的生成式人工智能的发展

人工智能在经历前期技术积累和迭代后，逐渐突破传统分析型AI领域，迎来生成式AI的爆发期。2017年，Google Brain团队提出Transformer架构，奠定了大模型领域的主流算法基础；2018年，大模型迅速“走红”，同年谷歌团队的模型参数首次破亿；2022年，谷歌团队的模型参数达到5400亿，呈现指数级增长，“预训练+微调”的大模型有效解决了早期AI泛化能力不足的问题。当前，生成式人工智能技术演化出三大前沿技术能力：数字内容孪生、数字内容的智能编辑、 数字内容的智能创作。目前，美国OpenAI公司开发的GPT-4更被认为是人类历史上第一个真正通过“图灵测试”的人工智能。

人工智能在中小银行的应用

2018年以来，江苏中小银行（具有独立核心的中资中小银行，下同）大范围引进智能营销、智能风控、RPA（Robotic Process Automation，机器人流程自动化）等人工智能技术，提升自身竞争力。总体来看，相关投入显著增加，近几年江苏中小银行平均信息科技研发投入不断增加，且增幅远超相应年份的平均法人境内外资产增幅。从细分人工智能应用领域来看，分别呈现出以下特征。

应用于身份识别领域，提升安全性和便捷性。随着数字化浪潮的不断演进，信息和数据的应用在生活中越来越频繁，快速增长的线上业务面临着越来越大的身份盗窃风险。身份识别技术依托计算机视觉技术，主要应用在支付和金融账户验证等场景。人工智能在身份识别领域的应用已较为成熟，比如，手机银行App采用人脸识别技术与指纹识别技术进行账户登录验证，既提高了账户的安全性，又降低了登录验证的时间成本，实现了登录的便捷性与安全性并存。江苏中小银行积极引入身份识别技术，近三年使用量呈快速增长态势。以人脸识别为例，江苏中小银行2022 年平均识别次数较2020年增长超过100%。除了人脸识别，声纹识别技术也在身份认证领域展现出强大的潜力。目前部分公司通过分析用户的语音特征在用户日常的语音交流中进行身份验证，同步提升用户体验感和安全性。

应用于智能营销领域，提升获客成功率。传统营销方式往往通过人工经验、市场调研和数据分析等手段，对市场和用户需求进行整合和分析，然后运用不同的营销手段进行推广，存在主观性强、操作周期长、成本高等问题。而基于人工智能的智能营销主要依托于推荐引擎和机器学习技术，对远程客户及其需求进行分析判断，打破时空限制，拓宽银行营销渠道，有效获取增量业务；通过分析用户数据总结用户特征，做到“千人千面”的智能推送。智能营销对银行业务起到重要作用，比如江苏银行利用智能营销技术，落地“5G空中银行·消费随e贷”客户智能营销场景，获客成功率大幅提升，超过普通机器人外呼成功率两倍；全省农商银行2022年通过智能营销模式销售理财产品数千万元，发放贷款达数十亿元。

应用于信贷风险管理领域，提高审核和预警能力。贷前审核方面，传统风控的做法更多是基于专家经验的人工审批，依赖于审贷官对材料的理解与把握，并给出最终意见。传统风控容易因信息不对称等问题，影响金融服务公平性，使用人工智能开展信贷风险管理，一方面大幅缩短了审批周期，提高了审批效率；另一方面降低了人工审批的道德风险和操作风险。目前，在小额贷款、线上贷款产品中已充分使用。同时，使用人工智能开展贷后风险自动监测，能够较快发现贷款客户暴露的风险，减少银行损失。2022年，江苏中小银行平均使用智能风控技术审批贷款700余万笔，贷款金额1000余亿元。贷中反欺诈方面，江苏超4成的中小银行上线了交易实时反欺诈等事中智能风控场景。贷后风险监测方面，以南京银行为例，2023年其大数据风险监测系统已触发预警事件数十万起，包含贷款企业财务状况快速恶化、企业失信、出现不良等情况。

应用于客户服务领域，提升用户满意度。传统客服系统采用人工客服在线服务方式，单人工作时间一般不超过10小时，存在人力成本高，服务质量与客服个人素质关联性大等情形。而智能客服技术主要应用人工智能技术，为客户提供7×24小时在线服务，作为人工客服的有效补充，分流人工压力，降低人力成本；依靠专家系统、知识图谱回答基础重复性问题，改善用户体验，提高用户满意度。江苏辖内近四成中小银行在2019年之后陆续应用智能客服技术，2022年智能客服服务客户的次数较2019年增长超过100%。

应用于信息发布、报表采集等标准流程操作领域，大幅降本增效。RPA技术通过用机器人脚本替代固定的人工操作流程，可在信息发布、报表采集等方面降低重复机械劳动占用时间，提升工作效率，目前该技术已在中小银行大规模使用。比如苏州银行自2019 年引入RPA流程机器人以来，已在后台落地相关自动化场景60余个，每年节省重复劳动时长约7000小时，降本增效成果显著。

另外，ChatGPT开启了生成式人工智能的广泛应用前景，但由于其需要强大的数据、算力和算法支撑，在商业领域的应用仍具有较高的技术门槛，且其算法不具备可解释性。

生成式人工智能在银行业的应用前景

虽然ChatGPT点燃了生成式人工智能大模型发布的热情，不过早在ChatGPT发布之前，全球就已发布不少大模型。《中国人工智能大模型地图研究报告》显示，2019 年美国已有4个大模型，而中国2020年已有2个大模型，此后每年都有大模型发布，仅2023年前五个月，中美分别有19个和18个大模型发布。截至2023年5月末，国内10亿级参数规模以上基础大模型至少已发布79个，美国为100 个，全球累计发布大模型202个，中美两国大模型的数量占全球大模型数量的近90%，中国大模型数量已进入第一梯队。据统计，截至2023年10月10日，中国已发布大模型168个，较5月底数量基本翻了一番。

生成式人工智能对生产力的影响可为全球经济增加数万美元的价值。麦肯锡于2023年6月发布的《生成式人工智能的经济潜力》对63个案例进行了分析，预测生成式人工智能每年可增加2.6万亿美元至4.4万亿美元的收入，若其在银行业的案例得到充分实施，生成式人工智能每年可提供相当于2000亿美元至3400亿美元的额外价值。迅速增长的用户数据量和不断提升的自动化决策能力推动银行从本地化、个人化市场转向全国化、更富竞争力的市场方向发展。生成式人工智能的应用将对银行业数字化转型起到极大的推动作用。

赋能风险管理，打造智能风控体系。风险控制是金融服务行业的核心能力。传统的风险管理方法通常依赖于人工的经验和判断，但其主观性的特点不足以应对复杂的市场风险和迅速变化的风险事件等问题，且人工判断需要数据搜集、整理、分析、形成结论，往往耗时较长无法第一时间针对相关事件作出反应。生成式人工智能驱动的风险管理系统可通过对大量的金融市场数据、公司报告、新闻报道等进行学习和分析，实现对市场风险、信用风险、操作风险等的智能识别和预测，还可通过对新闻报道和社交媒体数据的分析，实现对市场情绪和舆情的监测。直接通过自然语言指令为有经验的风控数据分析员提供数据处理和分析所需的抽取结果，降低风控分析的技术要求。当前，诸如彭博社等公司已在此领域进行了初步探索，并形成了诸如内部大模型BloombergGPT等应用产品，助力内部风险评估与分析。

赋能客户服务，打造智慧客服体系。以类ChatGPT大语言模型为基础，智能客服机器人可更为充分地理解用户的自然语言查询，提供更为准确和实时的回答。与传统客服机器人相比，“真人感”更强，可大幅提升对话体验，提升用户满意度。这种智能客服系统可处理常见问题，如查询余额、转账流程、信用卡激活等，同时也可提供个性化的金融建议，例如分析对比理财产品，抽取知识点作答，横跨答案形成作答等。除此之外，智能客服系统可让人工坐席从“问题回答者”变为“答案审核员”，极大提升客服人员工作效率。

赋能知识管理，打造经验传承体系。对于银行业而言，知识管理是一项至关重要的工作，需要对大量的金融法规、政策、产品知识等进行整理和维护，本行多年积累的知识更是重要的工作底蕴。生成式人工智能可实现对内部知识库的自动化管理和更新，提高知识管理的效率。同时，生成式人工智能还可用于内部培训，为员工提供个性化学习资源，提升培训效果。目前，国家金融监督管理总局江苏监管局（以下简称“江苏监管局”）已试点“苏晓智”生成式人工智能模型，实现对监管文件的深度学习，可提供监管政策宣贯服务。

人工智能技术应用存在的风险

近年来，中小银行在生物识别、智能风控、RPA等领域广泛应用人工智能技术，提高了信息科技对金融业务的支撑力度，但在实施过程中仍存在一些亟待关注的新风险。

算法模型过于雷同，可能引发风险共振。算法是人工智能进行逻辑决策的“公式”，在驱动金融创新方面发挥了重要作用。目前，银行机构普遍借助算法模型开展金融业务，防范相关风险，所选用的算法模型存在相似逻辑，易引发风险共振。比如，2018年2月，美国股市因ETF基金使用类似算法，导致卖出的触发点类似，最终形成强制性抛售共振，15分钟交易量达到700亿美元，进而演变成全球范围内的股灾。国内2019年多家银行使用类似的贷款算法，将公积金缴纳情况作为客户授信的重要审批依据，被不法分子掌握并根据需求编造公积金记录，骗取贷款10余亿元。

算法偏见可能引发公平性风险，“金融边缘人”或更难获取金融服务。银行机构使用的大多数智能模型算法需要一定的初始金融服务数据进行“冷启动”，实现数据积累。江苏辖内中小银行在开展普惠金融，特别是面向“新市民”等群体提供金融服务的过程中，一些原本不常使用金融服务的“金融边缘人”因缺少在金融系统积累相应数据，使其更难获得金融服务。

深度学习模型过于复杂，导致基于模型运算结果的错误决策难以回溯、追责。当前银行使用的深度学习人工智能模型过于复杂，特别是生成式人工智能模型往往包含上千亿条参数。受参数过多等因素影响，此类模型大多基于“黑箱”算法，人类无法掌握模型的具体运算逻辑和过程，导致无法验证模型的运算结果。将基于“黑箱”算法的人工智能引入金融业务后，将难以对其决策链条实施全程回溯，因人工智能错误决策导致的违规行为及风险将难以追责到具体责任人，增加了穿透式监管工作难度。

不规范使用新技术带来数据安全风险。在大数据和金融业深度融合的背景下，数据资源已成为金融机构新的核心竞争力。生成式人工智能模型的训练需要海量数据，如果对个人隐私等敏感信息使用、管控不当，则会产生极大的数据安全风险。此外，生成式人工智能模型会将学习内容作为经验存储，如果因不规范操作向其输入涉及敏感涉密信息，目前尚无有效删除方法，将导致风险无限期扩散。

过度依赖服务商导致外包风险积聚。中小银行在开展人工智能应用过程中自主研发能力弱，大量依赖科技外包公司缺少话语权，导致相关风险无法有效控制，外包风险不断积聚。

建立三大体系  防范人工智能风险

党的二十大报告指出，健全网络综合治理体系，推动形成良好网络生态；健全国家安全体系，强化网络、数据等安全保障体系建设。2023年7月10日，国家网信办等7部门联合发布《生成式人工智能服务管理暂行办法》，是我国首份AIGC监管文件；美国国家标准与技术研究院于2023年1月发布《人工智能风险管理框架》，欧洲议会于2023年6月通过《人工智能法案》，各国对人工智能的管理已陆续提上日程。由于更容易受经济冲击影响，信息更不透明，并且更有可能鼓励市场参与者的过度危险行为，中小型、分散型金融机构在人工智能进程中也可能引发系统性风险。在下一步的监管工作中，江苏监管局将从以下几个方面着手，通过建立三大体系，防范人工智能风险，促进人工智能更好地为金融高质量发展服务。

建立人工智能风险治理体系。江苏辖内大部分中小银行已设立算法工程师岗位，但仅有不足10%的机构建立了人工智能模型集中管理体系，人工智能治理工作尚未正式起步。下一步，江苏监管局考虑将人工智能作为信息科技风险的重要部分管理，纳入金融机构全面风险管理体系，引导督促中小银行在应用人工智能提升金融服务实体经济能力的同时，扎实建设好相应的风险管理体系，避免因为管理“真空”引发新的风险。

建立数字化转型风险评价体系。2022年原银保监会印发《关于银行业保险业数字化转型的指导意见》后，银行保险机构全面推动数字化转型，声势壮大。但实际效果如何，投入产出比如何，仍有待验证评估。数字金融人才对银行风险控制技术的发展至关重要，科技型人才短板不利于中小银行的技术改进和风险控制能力提升，而中小银行的资金投入、人员力量与全国性银行相比仍有较大差距，因此，江苏监管局将考虑尽快出台适合中小银行的数字化转型评估体系，真实准确地评估中小银行数字化转型成效以及其中的风险防控情况。

建立外包商联合管理体系。针对中小银行与核心算法厂商合作时议价能力弱、无法掌控风险的问题，建立外包商联合管理体系。集中行业力量与外包商沟通，开展外包联合检查，核心模型风险检查等工作，增强中小银行对核心算法的掌控能力，避免出现外包商风险控制不严导致风险向金融机构蔓延的情况。 

来源：《中国农村金融》2023年第23期