新鲜来袭！东方国信幕僚产品体系隆重发布

本篇文章5229字，读完约13分钟

——人工智能重塑企业IT系统，国信幕僚加速企业数智转型

东方国信以27年八大行业大数据建设服务经验为基础，潜心生成式人工智能技术，聚焦各行业垂直模型和垂直应用，倾力打造出“东方国信幕僚产品体系”，为行业客户提供智能、准确、便捷、高效的数据智能化平台及大模型应用，快速实现企业数据价值的提升。

幕僚产品体系提升了知识的管理效率，为企业提供智能文案生成，为企业快速部署智能数仓提供基础，分析企业经营问题，提供多类策略方案。在企业现有APP应用的基础上进行智能化升级，为客户提供简易便捷的智能服务交互，客户获得极佳的服务体验，获客转化率大幅提升的同时降低获客成本。

东方国信幕僚产品体系，基于多类国内外加速器硬件和分布式技术引擎，提供高效的“平台+数据”的训推平台；面向基于各类行业用户，提供垂直行业大模型全新训练和精调训练能力；面向业务应用，提供大模型推理服务的创新应用能力。幕僚产品体系包括包含六大产品：幕僚深言（Muliao iLang）、幕僚深思（Muliao iMind）、幕僚智数（Muliao iData)、幕僚智用（Muliao iAPP）、幕僚训推（Muliao iModel）、幕僚一体机（Muliao iMachine）。

幕僚深言（Muliao iLang）：文生文

文生文，是将NLP（自然语言处理）技术与大模型能力相融合，通过智能采编的“专属知识库”、增强的语义语料库、智能算法的场景匹配等，构建向量库及知识库图谱，提升机器对知识的智能理解能力。

幕僚深言通过与用户的多轮对话内容，从知识库中分析得出答案，并根据上下文语义理解用户、解答诉求，使回应更有温度，对话体验更佳。

幕僚深言将为企业的文本内容注入专业性与深度，使输出的文本更具吸引力和说服力。

✓ 智能采编的“专属知识库”：支持文档上传方式，对文档进行存储、查看和管理，将文档内容抽取为问答，提供行业专属的智能知识库。例如，为营业厅工作人员提供全量产品及服务相关知识的问答式查询和生成。

✓ 语料增强与自动化测试：利用大模型进行创作型语料增强，补充训练多样性的数据；批量构建大规模语料，避免人工低效等问题；进行知识的自动测试、意图查重；自动生成测试语料，Bad case自动归结为新一轮训练语料。例如，为机器人“听得懂”创作和提供大量符合自然语言的训练语料。

✓ 用户意图精准理解：基于NLP算法和大模型能力，承接上下文，构建意图槽位模型，精准理解用户的真实意图；及时更新和调整意图识别策略。例如，智能客服机器人能够准确理解客户提出的问题“手机还有多钱”属于“查话费”的真实意图，

✓ 文本智能化生成：深度学习模型能够基于海量数据和复杂神经网络结构，生成内容丰富、逻辑连贯、语法正确且符合上下文一致性的文本内容。例如，能够连续的、准确的回答业务人员提出的运营问题：“某运营指标的含义”，“如何提升该指标”，“如何开展该指标的运营”、“该指标影响什么业绩或考核”等

幕僚深思（Muliao iMind）：ChatBI

ChatBI产品是将“大模型+小模型”进行组合的企业级智能数据分析平台，依托大模型能力分析行业需求，面向不同的场景为用户提供准确、快速的企业数据查询及分析能力；结合统计分析模型对结果数据进行深度根因分析，并提供方案建议，实现企业数据驱动智能决策。

✓ 大模型适配及优化：大模型（如：ChatGPT4、Llama、Baichuan、CodeLlama）面向不同语言不同应用进行扬长避短，使机器人的回复更加拟人化。

✓ 查询语句自动生成：支持将自然语言转化为结构化数据查询语句，对结构化数据进行查询和访问。

✓ 复杂场景化适配：利用意图识别及规则配置引擎实现场景判别，支持业务知识对接及训练，让机器人更好捕捉用户需求，灵活应对复杂的业务场景。

✓ 分析结果自动生成：支持基础的统计学分析，如平均值、同/环比等；支持对异常值、异常占比等进行洞察；支持自动识别当前数据的趋势、规律，并判断未来方向；自动识别对结果有显著影响的关键变量、揭示其与业务目标之间的因果关系；

✓ 决策自动生成：支持借助大模型的逻辑推理及知识理解能力，调用分析类算法工具，结合业务经验和分析思路，综合得到决策需要的相关信息；基于分析结果，利用决策树、运筹优化算法、规则引擎等技术自动生成决策建议；

幕僚智数（Muliao iData）：文生数

文生数是幕僚产品体系中的新一代智能数仓产品，以高效、智能、自动构建数据湖仓为目标，通过AI技术深度注智产品各模块能力，重点从知识库、建模、开发、优化（一库三智）四个核心为切入点提升智能化水平，快速搭建一整套高效、稳定的数据存储和计算环境，并根据业务输入自动完成仓库分层，实现数据存储，满足业务的个性化需求。

✓ 文生知识：以现有元数据和业务文本知识为基础，自动构建标准化数据表、字段、表关系、指标、维度等分类的知识库体系，为智能湖仓提供基础能力。

✓ 文生智能SQL：基于知识规则，采用智能化SQL生成技术，建立一套完整的知识库规则模型，通过知识库规则的推理与组装，实现复杂SQL的自动化生成。

✓ 文生可理解的SQL：基于推理机的大型语音模型（LLM）能力，将客户的业务问题通过关键知识进行智能化推导，生成可理解的SQL。

✓ 大模型训练微调：使用大模型对客户提出的业务问题进行再理解和微调。

通过幕僚智数最终实现数仓建设效率的有效提升，降低项目交付成本、提升客户满意度。

幕僚智用（Muliao iAPP）：ChatAPP

ChatAPP产品全面颠覆了传统APP式的交互体验，对话式智能APP具有强大的智能化能力和数字人特性，利用大模型能力可以准确的识别用户意图，并通过业务流程设定引导用户完成业务受理，业务缴费，业务查询，同时可以识别用户在对话中存在的问题，再进行智能化自我学习，持续优化意图识别准确性，提高客户满意度和体验。

✓ 业务流程设定能力：平台可以针对指定业务进行流程设定，通过意图识别直达业务流程，并通过流程引导用户完成业务办理，确保按照业务流程准确回答客户问题。

✓ 准确识别用户意图：平台接入BONDroid的大模型，利用语义理解及自然语言处理能力，可以在对话过程中准确识别用户意图，快速解决用户问题，提高用户满意度。

✓ 智能化自我学习：对话式智能APP具有自我学习和自我更新的能力，可以根据用户反馈和历史数据不断优化自身的回答，提高用户满意度和问题解决率。

✓ 服务集成能力：可以轻松地将已有的业务页面或功能集成到对话式智能APP中。不仅缩短业务上线的时间，快速响应用户需求。同时可以盘活现有资源，避免重复开发。

✓ 用户体验提升：通过多轮对话的模式，避免了传统APP多级菜单导致用户使用繁琐的问题，使用户能快速办理业务，同时数字人的交互模式让用户感觉与营业员面对面交流，提升用户体验。

幕僚训推（Muliao iModel）模型平台

幕僚训推平台基于云原生资源管理能够方便地进行私有化部署，形成主流商用和开源基座大模型和主流AI加速器适配矩阵并进行迭代更新。以多种分布式AI计算框架适配支持大模型、机器学习、深度学习等场景训练和推理，提供一站式生产发布管理，包括项目空间、数据管理、模型开发、模型训练、模型服务。同时将LLM和垂域知识融合，提升训练推理性能，简化系统运维，保障数据安全，快速落地大模型应用。构建平台+资产+AI（数据/训练/推理）闭环能力，赋能生产应用。

✓ 云原生资源管理：云原生K8S，弹性管理和调度提高资源使用效率；实现GPU虚拟化，提高资源利用率及任务执行数；Prometheus 监控报警，及时发现运行异常情况；Loki日志系统，排查分析故障原因；

✓ 分布式计算框架：DeepSpeed提高大规模模型训练的效率和可扩展性；DeepSpeed提高大规模模型训练性能分析及优势；vLLM使用PageAttention技术，对大模型推理进行加速。

✓ 一站式生产发布：

1)  多租户模式：实现多应用计算和存储分配；

2)  项目空间：用户管理，针对不场景的项目创建项目组，提供人员管理功能，追溯操作行为；空间管理，为管理员提供k8s Dashboard监控；

3)  数据资产：数据探索，提供外部数据源训练数据，完成取样数据的分析和准备；数据集，完成高质量AI数据集的注册和管理；数据标注，提供高质量的智能化数据标注工具，提高模型训练准确度；

4)  在线开发：镜像管理，平台内置多种镜像，支持在线构建开发/训练/推理环境；代码开发，提供Jupyter及Vscode两种开发环境，方便开发机器学习及深度学习模型。

5)  模型训练：模版开发，内置算子模板，用户根据向导构建数据处理/AI算子；任务流编排，提供以拖拉拽的方式开发编排训练流程，完成模型训练过程配置；单任务调试，任务执行全过程监控；

6)  模型服务：推理模型管理，提供模型注册，支持已训练好的模型注册到平台；内部服务，提供部署平台、推理服务、应用系统依赖的中间件服务，添加外部微服务供平台调用，提供配置服务所需的必要参数；推理服务，支持GPU资源推理加速，提供多种机器学习及深度学习推理框架，支持在线模型推理测试，测试可用后可一键发布至生产环境；资源监控，提供模型服务的资源使用情况及推理服务的流量、QPS等指标监控，保障服务安全、稳定运行，帮助服务故障回溯和预测风险。

幕僚一体机（Muliao iMachine）软硬协同

幕僚一体机是面向用户提供的集“硬件+软件+模型+服务“一体化的大模型解决方案，打通大模型落地的“最后一公里”。做为自主研发的裸算力平台，能够有效地管理和分配算力资源，支持垂域大模型训练和推理所需的计算资源。实现快速POC，使部署周期从15天降至3天；兼顾支持大小模型，帮助开发效率提升50%；信创适配，信创硬件企业级一站式交付；轻量集成，支持便捷集成与被集成。真正实现开箱即用。

✓ 多样化硬件配置：与国内AI加速器厂商建立紧密合作关系，持续进行大模型与AI加速器的适配工作。与国内头部服务器厂商建立稳定的供应链关系，可在第一时间提供开箱即用的大模型训练、微调和推理一体化设备。

✓ 模型流水线生产：模型流水线采用“前店后厂”模式，其中“前店”负责模型推理，“后厂”专注大模型训练，通过数据驱动算法优化，提供数据准备、预训练与微调等流水线大模型训练服务，既提高了开发效率，又确保了模型应用的最佳性能，为大模型技术的广泛应用提供了强大动力。

✓ 端到端模型应用：内置“开箱即用”的主流大模型及赋能应用，实现高效便捷的一体化解决方案。内置大模型应用广泛覆盖多个领域，面向取数用数、智能客服，文档问答等场景，同时提供工程套件用于后台配置，方便用户自定义流程，简化工作流程，降低大模型使用门槛。

✓ 卓越的性能支撑：在系统使用与应用层面均展现出卓越的专业性能。系统稳定可靠，操作界面简洁，满足用户自定义需求。内置多种主流模型和典型应用，精准高效，兼容性强，满足不同场景需求。已适配主流信创算力，支持异构算力组合，发挥更大性能。

✓ 定制服务：能够灵活应对各种复杂场景，无论是针对特定场景的硬件配置优化，还是满足行业需求的软件快速定制开发，都能提供个性化的解决方案。同时，用户还可以根据业务需求选择合适的模型和应用进行集成，实现功能的精准匹配和效率的最大化。

✓ 极简运维：单机版与一体机部署流水线结合，部署周期可由原来的15天降至3天，一体机配备了交互友好、功能完备的软件工具平台，使开发人员更加专注于模型的设计和优化，无需花费过多的时间和精力在繁琐的工程细节上。

东方国信“幕僚”体系采用最新人工智能（AI）技术，搭建企业数据训推平台，面向行业构建大模型创新应用幕僚深言（Muliao iLang）、幕僚深思（Muliao iMind）、幕僚智数（Muliao iData)、幕僚智用（Muliao iAPP）、幕僚训推（Muliao iModel）、幕僚一体机（Muliao iMachine）的智能化工具，为企业构建智能知识库，提供经营分析挖掘，为企业经营建言献策，为用户提供智能化的人机交互，使企业从数字化转向数智化。

目前，该平台已经在多个行业的大型企业部署上线运行，为运营商提供经分、客服、数仓等智能化支撑；在教育领域，部署教培一体机、论文助手；在金融领域，提供金融风险管理、投资策略分析、智能数仓/集市等建设服务；为政务领域提供政策知识库，辅助政策解读；为司法领域提供法律条文解读、司法鉴定辅助、法律咨询等智能支撑；为软件工程生成智能测试用例，提供代码生成助手及代码审核等智能能力。实现了大幅降低人力成本、缩短项目建设周期、提升数据价值等卓越的应用效果。