文丨中国银行软件中心(西安) 李瑞男 岳菁斐 崔欣 张延 王佳祺

摘 要：紧跟科技发展潮流，中国银行推出“灵犀”智能员工助手，深度挖掘行内知识，以智能化手段辅助员工办公，加速推动银行工作流程的智能化升级。基于上述实践，本文重点介绍了“灵犀”智能员工助手的建设规划与方案设计，详细分析了“灵犀”智能员工助手在大模型技术实践应用等方面的关键挑战与解决思路，对未来人工智能技术与银行业务的深度结合进行了展望。

关键词：大模型;智能员工助手;人工智能

  随着ChatGPT的横空出世，人工智能技术迈入大模型时代，并呈现出大算力、大数据、大模型等显著特点。在金融领域，商业银行作为信息密集型企业，具有天然的数字化优势，正是大模型技术的理想应用场景之一。尤其是伴随金融科技的迅速发展，大型商业银行纷纷意识到大模型技术的巨大潜能，开始积极探索基于大模型技术的智能员工助手等创新应用，以打造更智能、更高效、更安全的银行业务模式。

  一、“灵犀”智能员工助手建设规划

  数字化转型背景下，为进一步提升员工工作效率，中国银行基于现有人工智能体系，整合大模型在知识理解、内容生产、工具调度等方面的技术优势，通过对大模型微调、知识增强、提示工程等相关技术进行深入研究与应用，开启了“灵犀”智能员工助手研发项目，旨在为不同角色员工提供行内知识查询、智能客服问答、文档内容生成、代码开发与测试辅助、流程自动化办公等定制化服务，加速推动银行作业模式、服务流程向智能化变革。

  例如，在生产实施方面，通过提供企业级架构知识、内部平台使用手册、系统说明文档、生产安全规范等知识问答能力，以及开发与测试过程中的代码理解、错误信息分析等辅助能力，切实提高生产实施过程的工作效率及可靠性。在日常办公方面，利用行内知识问答、文档内容生成等能力，可有效提升办公过程中信息沟通、材料整理等工作的效率。在运维风控方面，通过测试运维问答、工作报告生成等，进一步降低运维人员工作压力。在智能客服方面，基于金融业务知识问答等功能，持续提升客户经理、业务人员的对客沟通效率。

  二、“灵犀”智能员工助手方案设计

  基于上述目标，中国银行从基础设施、知识体系、服务能力、触达渠道、场景生态等五个方面设计建设方案，力求使“灵犀”智能员工助手更加贴合员工的实际需求。

  1.完善基础设施

  在基础设施层面，中国银行通过构建大模型基座(如图1所示)，训练用户意图识别模型，接入外挂知识库、在线知识库和第三方服务，协调不同大模型服务间的配合度，进一步扩展“灵犀”智能员工助手的服务能力，避免重复开发;同时，通过自优化提示词工程，构建自动化模型微调流水线，解决以往依靠人工编写效率低、质量难以保证等问题;此外，通过构建后台管理端，实现接口规范与管理、运营数据统计与分析、意见收集反馈、使用权限管控、平台运维等功能。

图1 中国银行大模型基座架构示意

  2.构建知识体系

  为使“灵犀”智能员工助手更好地提供知识问答服务，除接入在线知识库及第三方问答服务外，中国银行进一步打造平台主动收集、高频需求分析、用户自主上传等功能，持续构建自有知识结构体系，并聚焦新增知识审核、知识更新迭代、访问权限控制等方面，坚持做好知识库的运营和维护工作。

  3.提升服务能力

  为提升服务能力，中国银行重点强化了五个方面的内容：一是通过扩大知识查询范围，提供专业化、精细化的知识查询能力。二是提供代码示例、代码分析、测试案例生成、单元测试代码生成等多项服务，提高开发人员的工作效率。三是提供文档类型转换、图片文本提取、智能翻译等常用工具服务，提升用户的办公效率。四是引入多模态数据处理技术，辅助处理图像、语音、视频等多种类型数据。五是增加任务规划与工具调度功能，实现工艺流程的自动化执行，通过输入指令并调用配套工具，完成目标任务落地。

  4.延伸触达渠道

  为将服务能力输出至更多渠道，“灵犀”智能员工助手搭载了多种服务触达方式，包括桌面应用、页面外嵌、接口外嵌、插件外嵌等。后续，“灵犀”智能员工助手还将逐步提供语音交互能力以及可定制虚拟形象的智能化服务。

  5.拓展场景生态

  为实现全方位、个性化应用体验，“灵犀”智能员工助手为用户提供了角色定制功能，支持用户个性化选择外观、角色定位、表达方式等。同时，通过设置应用商店、建立评价体系、打造资讯体系等举措，中国银行全方位构建“灵犀”智能员工助手的生态场景，使用户可以定制更契合自身办公需求的员工助手，有效提高工作效率。

  三、方案落地挑战与应对策略

  在“灵犀”智能员工助手的研发过程中，中国银行面向大模型应用的基础设施建设、知识体系构建与运营等领域开展了深入分析，并针对其中的关键问题提出了解决思路和办法。

  1.实现模型能力在通用领域与专业领域的统一

  智能问答模型是智能员工助手的核心组件之一，对于提升客户体验具有重要意义。当前，智能问题模型大多使用通用大模型、领域大模型和专业小模型来实现，但如何组合调用不同模型，充分发挥各模型的技术优势，在业内并没有一个明确的解决方案。中国银行通过构建大模型基座，训练用户意图识别模型，自动识别用户输入问题归属的领域(通用问题、领域问题、基本查询问题或运维等第三方服务问题)，充分发挥不同模型的优势，进一步降低了用户使用复杂度，使“灵犀”智能员工助手的使用效率显著提升，用户体验大幅提高;同时，通过在能力封装层建立能力编排模块(如图2所示)，实现了大模型功能和智能能力的解耦。

图2 能力编排模块

  2.实现大规模领域知识库的高效检索与运营维护

  由于商业银行的业务体系错综复杂，领域知识库不仅在研发、维护阶段面临极大挑战，而且也难以保障知识检索的效率及准确度。为解决上述问题，中国银行引入了知识图谱技术，以增强知识之间的内在联系，提升知识检索效果;同时，在向量数据库知识召回阶段，增加双重召回机制，通过知识发散的思路进一步检索与目标答案相关的知识内容，有效提升了领域知识回复内容的准确性与全面性。此外，考虑银行业知识在保密性方面的高要求，中国银行采用知识库隔离机制，支持用户在自建知识库上传知识，并可由管理员设定开放权限，确保不同权限用户在使用知识问答功能时符合保密要求。通俗来讲，在上述机制保障下，“灵犀”智能员工助手将能够做到合理的“守口如瓶”。领域知识问答机制如图3所示。

图3 领域知识问答机制

  3.个性化角色定制

  商业银行员工数目大、员工角色多，且工作职责和能力水平也各不相同，因此，智能员工助手需能够根据具体情况和需求提供个性化服务。例如，营销岗位的员工可能需要一个更注重客户分析和市场推广的定制化功能，风险管理岗位的员工可能需要一个更注重数据分析和风险控制的定制化功能。为此，中国银行通过提示词优化工程，打造智能员工助手场景生态，力求为用户提供全方位、个性化的使用体验。简言之，即首先通过大量指令训练集，训练一个提示词专用优化大模型，然后基于机器学习训练一个提示词专用分类模型，用于决定Prompt是否需要优化。通过上述方案，用户可以自主上传提示指令，定制更适合自身办公场景的智能员工助手，实现智能服务场景的灵活配置。提示词自动优化原理如图4所示。

图4 提示词自动优化原理

  三、总结与展望

  截至目前，“灵犀”智能员工助手已先后历经了5次迭代，通过对接猿通讯、猿空间等互动通信平台，实现了智能知识问答、文档生成、代码开发测试辅助等多类型服务能力。例如，“灵犀”智能员工助手依托向量数据库技术，构建了支持快速检索的行内数据资源知识库，可以回答常见手册、制度规则、产品信息等问题，有效提高了办公查询信息的速度和准确率;面向开发测试场景，提供生成代码示例、代码功能解析、代码知识规范查询、代码报错信息查询等功能，显著提升了开发效率;基于强大的知识理解能力，可根据用户的工作内容生成符合标准规范的周报内容。此外，结合自然语言理解技术，“灵犀”智能员工助手可根据具体场景进行任务流程化编排，并调用软件工具实现自动化办公。

  未来，伴随大模型技术的不断发展和进步，智能员工助手也将迎来更大的发展空间。例如，通过使用更高效的图形处理单元(GPU)、分布式计算以及大模型量化剪枝等技术，可使智能员工助手大幅缩短训练时间，并在保持模型精度的前提下减少推理时间;同时，伴随大模型具备更多模态的能力，其将可进一步降低虚拟人合成、数字孪生等技术的落地难度，加快相关技术在实际生产办公中的应用，并通过智能化算法和机器学习技术，实现人与机器更为紧密的深度协同。后续，中国银行将持续致力于大模型智能化技术的研究与应用，着力打造更优质、更智能的金融服务，推动银行业务不断迈向新的高度。

参考文献：

  [1] 米加宁, 刘润泽. 大算力与知识生产方式的革命—— 基于ChatGPT 的技术影响与实践展望[J]. 中国社会科学评价,2023(02).

  [2] 吴晓如. 认知大模型新技术助力金融创新[J]. 新金融,2023(10).

  [3] 李心玥, 徐佳琦, 周思静等. 基于NLP 技术在运维自动化领域构建智能问答模型的探索与实践[J]. 中国金融电脑,2021(08).