在人工智能技术飞速发展的今天，基于大模型的生成类应用已经成为业界关注的焦点。这些应用不仅可以帮助企业提高生产效率，还能为用户提供更加个性化、智能化的服务体验。本文将探讨生成类应用的机遇与挑战，以及在实际落地过程中的探索和实践经验。
生成类应用在通信行业的价值与机会
生成类大模型让通信运营商在多个方面受益，主要体现在运营、成本、质量及创新能力上。
01 提升运营效率
生成类应用可以帮助通信企业自动化处理大量的日常工作，例如客户服务对话、故障诊断和修复指南生成等，从而显著提高运营效率。
02 降低成本
自动化处理重复性任务可以大幅降低人力资源成本，同时通过优化网络资源配置和运维管理，有效减少各类成本。
03 改善服务质量
通过自动生成高质量的文档、技术指南、用户手册等，可以减少人工错误，确保信息的一致性和准确性，从而提升客户满意度。
04 增强创新能力
利用生成式AI技术，通信企业可以开发出更多创新的产品和服务，比如基于AI的虚拟助手、智能客服系统等，为用户提供更加个性化和智能化的体验。
在众多生成类的场景中，通信运营商的售前方案的支撑的需求量最大，一线诉求最强，主要存在以下困难点：
- 售前方案主要由一线解决方案经理依靠人工拼装，生成效率低，易出错。
- 一线方案经理经验不一，方案质量参差不齐，影响品牌声望。
- 客户变更需求多，方案频繁修改，售前方案生成周期长，客户满意度降低。
通过运用生成式大模型的技术，高效高质量生成售前方案，重构生产运营前后端，已成为运营商数智赋能生产过程的突破口。
生成类应用的探索和落地
面对众多的售前方案场景，如何聚焦业务量大、有特色的业务，如何喂投专业业务知识， 如何标准化知识文档结构，如何与业务系统无缝对接等诸多难点，我们采用“逐层拆解，逐个击破”的策略，对生成类的应用场景需求分析设计过程抽丝剥茧，聚焦核心业务、方案论证、原型交互设计，知识标准化梳理，最终形成生成类大模型应用产品的形态。
场景聚焦：以点为面，聚焦小微组网方案生成
售前方案涉及行业众多如金融、卫健、农业、教育等，业务跨度广，全部梳理则落地周期长，效果不显著。聚焦一线最急迫，业务最典型，访问量最大的小微企业的组网和视频监控的售前方案生成场景，以此为切入点打造领域方案撰写的样板点，以点带面，为后续多行业售前方案智能生成奠定基础。
【一线关键问题聚焦】
1.小微客户个性需求多，往往需要针对性编写方案，周期长
2.组网监控业务复杂，需要较多专业知识和经验
3.已有方案难复用，需人工对已有的方案库进行检索
方案论证：谋定而后动，制定整体设计方案
聚焦场景后，梳理小微组网方案生成的用户故事，确定解决方案经理的操作流程，完成业务规则训练、设备清单库对接、高中低报价、方案生成、对接云链的业务流程设计。
根据业务流程，确定整体方案的智能化目标，同时制定小微组网方案生成的技术方案。事前构建高质量的数据集，事中重点设计智能高效的交互体验，事后形成闭环的知识评估及更新方案。
知识梳理：构建高质量数据集，定义文档标准化格式
通过文档识别、文档处理、索引构建、知识检索这四大步骤构建高质量数据集，形成售前方案高质量生成的技术保障。
word/excel/pdf等格式的文档是业务知识常用载体，将操作手册、产品白皮书、设备安装手册介绍等常见文档作为知识的输入，有利于业务知识的快速收集和成生。通过文档格式处理技术，高效识别文档关键元素，保持文档的层次结构；通过文档多模型内容处理技术保持文档文本、图片、表格等多模型信息的还原度。应用语义索引和实体索引两种策略，构建高效的索引方案。通过语义检索、关键字检索、实体检索等组合的知识检索方案，形成知识库整体建设的完整方案。
依托业务知识的规则化和章节内容的标准化，形成高质量的小微组网知识数据集，并依据知识集及典型方案定义生成文档的标准化格式。
业务知识规则化
通过一线调研结合典型售前方案，确定小微组网知识分为网络类和安全安防类两大类，每一类又有细分场景，每个细分场景有对应的商品，每个商品有详细的业务规则。如下图所示：
小微组网的业务知识的梳理，即将这些商品在细分场景下对应的规则进行细化，形成知识场景化的知识规则体系，纳入知识库统一管理。
章节内容标准化
一线解决方案人员在编写小微组网方案时内容和格式都不大一样，无法保证高质量，需对方案内容的章节进行统一定义。
首先，分析典型方案内容，抽取共性章节，最终确认标准方案章节定义为：需求描述、方案描述、方案报价。
其次，报价部分格式千样，存在较多隐患。最终根据一线的报价需求并参考报价系统，形成标准报价方案包括：标品套餐、集成服务清单、项目总计的内容。
交互设计：智能高效的交互体验，提升一线感知
良好的交互体验影响售案生成质量和一线感知。应用业务参数固化、会话管理、提词工程、RAG检索增强生成四种交互技术使该场景交互质量与交互感知达到最佳平衡。
01 业务参数固化
- 标准化模板：通过预先设定的参数模板，确保售前方案的标准化，提高方案的一致性和质量。
- 快速变更：固化参数允许快速变更配置方案的基本框架，加快方案生成的速度。
- 减少交互次数：标准参数无需来回对话，提升需求收集的速度。
02 会话管理
会话管理是为了有效且准确的将对话之前所蕴含的信息提取出来而引入的模块，将智能分割用户会话内容管理过往对话所蕴含的场景信息、意图信息传入大模型底座，从而生成连贯和个性化的回复。同时引入个人用户token，在每个对话之间传递会话令牌，能够将不同用户的输入与之前的对话上下文关联起来,产生与特定用户和对话相关的回应。
03 提词工程
提示词工程在大模型与复杂业务结合时具有重要作用。建立提示词模板库，针对不同场景设计特定模板。
- 提高用户体验：通过精心设计的提示语，可以帮助解决方案经理更好地理解和操作界面，减少错误操作。
- 引导用户行为：提词可以指导解决方案经理完成特定的任务流程，比如填写组网标准参数模板。
- 减少用户输入负担：智能提词可以预测解决方案经理的输入意图，自动完成部分输入，减轻解决方案经理的手动输入工作量。
- 提供即时反馈：提词可以用来给予解决方案经理即时反馈，确认解决方案经理的操作是否成功，或者指出可能存在的问题。
04 高效RAG检索增强生成
RAG检索增强技术确保交互返回的答案精准有效。通过引入ES，对文档的内容关键字进行检索和对向量库的相似召回，对召回的内容进行rerank排序，提高了文档检索结果的正确性，对问题进行重写和二阶段检索结果由LLM推理归纳返回最佳答案。
运营管理：业务知识长效评估及更新
组网的业务规则会随市场变化和新产品入网产生变更，通过一线用户评价反馈及提词优化反馈实现业务知识质量评估及长效更新，满足市场变化的需求。
一线用户评价：由一线人员在对话的过程中进行满意度价评，包括方案知识的点踩，形成劣质知识的下架，精确知识的更新。
提示词优化收集：管理抽取知识的提示词的内容、相似度、向量阈值、TOPK等相关信息。在提示词对检索和输出的内容进行规范说明。实现对大模型对知识检索的准确率和抽象整理能力。
生成类应用场景扩展思考
随着大模型带来能力突破，让AI与生成力结合，促进企业内部数据价值释放。未来，我们预见大模型将进一步与业务紧密结合，成为整个业务流程的核心驱动，接入更多的方案生成场景。同时结合AR/VR技术，生成式AI可以生成更加直观易懂的方案。未来怎样发展，我们将持续把握风口，迎接挑战。
