使用 LangChain 和 Milvus 构建测试知识库

server/2025/2/28 18:58:30/

LangChain 是一个强大的框架,可以与向量数据库(如 Milvus)无缝集成,用于构建基于检索的增强生成(RAG)系统。在测试工程师的场景中,可以将测试资产(如需求文档、测试用例、缺陷报告等)存储在 Milvus 中,然后通过 LangChain 提供的检索功能快速查询和生成相关内容。


功能目标

  1. 存储测试资产:将需求文档、测试用例和缺陷记录等内容转换为向量表示并存储到 Milvus。
  2. 检索测试资产:根据用户输入的查询,快速检索相关内容。
  3. 集成生成模型:结合检索结果,生成测试用例或分析缺陷原因。

架构流程

  1. 文档预处理:

    • 清理和分割文档。
    • 将段落或内容片段转化为易于向量化的文本。
  2. 向量化:

    • 使用嵌入模型(如 OpenAI 的 text-embedding-ada-002 或 Hugging Face 模型)将文本转化为向量。
  3. 存储:

    • 将向量及其元数据存储到 Milvus 向量数据库。
  4. 检索与生成:

    • 根据用户查询,通过向量相似性搜索检索相关内容。
    • 将检索结果与生成模型结合,生成响应。

示例代码:

1. 安装必要的依赖

首先确保安装了以下依赖库:

pip install langchain pymilvus openai sentence-transformers

2. 启动 Milvus

可以通过 Docker 快速启动 Milvus:

docker run -d --name milvus -p 19530:19530 -p 9091:9091 milvusdb/milvus:v2.2.9
2.1 Docker容器化部署(推荐)
  1. 环境准备

    • 启用Windows子系统Linux(WSL)和虚拟机平台:
      bash
      dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
      dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
      重启后安装Docker Desktop并启用WSL 2后端。
    • 验证Docker安装:
      bash
      docker --version
      docker-compose --version
  2. 获取并运行Milvus容器

    • 拉取官方镜像:
      bash
      docker pull milvusdb/milvus:latest
    • 启动容器(映射端口19530和19121):
      bash
      docker run -d --name milvus -p 19530:19530 -p 19121:19121 milvusdb/milvus:latest
      服务启动后,通过浏览器访问http://localhost:19121验证。
  3. 持久化存储(可选)

    • 挂载本地目录或使用Docker卷保存数据,避免容器删除后数据丢失。

2.2 预编译包部署(适合开发者)
  1. 下载二进制包

    • 从GitHub仓库matrixji/milvuswindows-test-版本中选择对应版本(如windows-test-v8)。
    • 或直接下载预编译的zip包(含milvus.exeminio.exeetcd.exe)。
  2. 启动服务

    • 解压zip包后依次运行:
      bash
      run_minio.bat 启动MinIO存储服务
      run_etcd.bat 启动etcd元数据服务
      run_milvus.bat 启动Milvus核心服务
  3. 测试连接

    • 使用Python客户端验证:
      python
      from pymilvus import connections
      connections.connect(host=‘localhost’, port=‘19530’)

2.3 图形化界面(Attu)
  1. 安装Attu

    • 下载Attu客户端(如attu-2.4.6-windows-x86_64.zip)并解压。
    • 启动Attu:
      bash
      .\attu.exe
  2. 连接Milvus

    • 在Attu界面输入Milvus服务地址http://localhost:19530完成连接。

注意事项

  • 资源分配:Docker Desktop中可调整CPU/内存限制以满足性能需求。
  • 防火墙设置:确保端口19530(API)和19121(Web)未被拦截。
  • 版本兼容性:若使用旧版Milvus,需注意依赖库(如pymilvus)的兼容性。

3. 示例代码实现

(1) 初始化 Milvus
python">from pymilvus import connections, FieldSchema, CollectionSchema, DataType, Collection# 连接到 Milvus
connections.connect("default", host="localhost", port="19530")# 定义 Milvus 的 schema
fields = [FieldSchema(name="id", dtype=DataType.INT64, is_primary=True, auto_id=True),FieldSchema(name="embedding", dtype=DataType.FLOAT_VECTOR, dim=1536),  # 维度与嵌入模型匹配FieldSchema(name="text", dtype=DataType.VARCHAR, max_length=1000)
]
schema = CollectionSchema(fields, "测试知识库存储需求")# 创建 Collection
collection_name = "test_knowledge_base"
collection = Collection(name=collection_name, schema=schema)

(2) 嵌入模型初始化

使用 Hugging Face 的嵌入模型将文本转化为向量。

python">from langchain.embeddings import HuggingFaceEmbeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter# 初始化 Hugging Face 嵌入模型
embedding_model = HuggingFaceEmbeddings(model_name="bert-base-chinese")# 文本分割器,确保文本块适合向量化
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)

(3) 插入数据到 Milvus

将测试资产(文档、用例、缺陷记录)清洗后分割为小块,并存储到 Milvus 中。

python">def insert_data_to_milvus(collection, texts):"""将文本转换为向量并存储到 Milvus:param collection: Milvus Collection:param texts: 文本列表"""# 分割文本为小块chunks = text_splitter.split_text(texts)# 生成嵌入向量embeddings = embedding_model.embed_documents(chunks)# 插入到 Milvuscollection.insert([embeddings, chunks])# 示例:插入需求文档
test_document = """
用户可以通过系统完成账户注册。
注册时需要填写用户名、密码和邮箱,并完成邮箱验证。
如果邮箱已被注册,系统会提示“邮箱已被使用”。
注册完成后,用户可以登录账户。
"""
insert_data_to_milvus(collection, test_document)

(4) 检索数据

根据用户的查询,通过向量相似性搜索检索相关内容。

python">from langchain.vectorstores import Milvus
from langchain.prompts import PromptTemplate
from langchain.chains import RetrievalQA# 初始化 Milvus 向量存储
vector_store = Milvus(collection_name=collection_name,connection_args={"host": "localhost", "port": "19530"},embedding_function=embedding_model.embed_query
)# 检索相关内容
def retrieve_test_knowledge(query):"""检索相关的测试资产:param query: 用户查询:return: 检索结果"""# 检索相关内容results = vector_store.similarity_search(query, k=3)for i, result in enumerate(results, 1):print(f"结果 {i}: {result.page_content}")# 示例:检索与“邮箱验证”的相关内容
retrieve_test_knowledge("邮箱验证")

(5) 集成生成模型

结合生成模型(如 OpenAI GPT)与检索结果,生成测试工程师需要的内容。

python">from langchain.chains import RetrievalQA
from langchain.chat_models import ChatOpenAI# 初始化生成模型
llm = ChatOpenAI(openai_api_key="your-openai-api-key", temperature=0)# 构建 RetrievalQA
qa_chain = RetrievalQA.from_chain_type(llm=llm,retriever=vector_store.as_retriever(),return_source_documents=True
)# 用户查询
query = "如何设计邮箱验证的测试用例?"
response = qa_chain.run(query)
print("生成的测试用例建议:")
print(response)

4. 参考链接

以下是一些可以参考的资源和文档:

  1. LangChain 官方文档
    • LangChain Documentation
  2. Milvus 官方文档
    • Milvus Documentation
  3. OpenAI 嵌入模型
    • OpenAI Embedding Models
  4. 向量数据库概览
    • 向量数据库介绍

提高落地实践的建议

  1. 数据清洗

    • 在插入数据到 Milvus 前,对测试文档和用例进行清洗和分块,确保内容质量。
    • 使用正则表达式过滤掉无关信息(如模板注释、页眉页脚等)。
  2. 优化嵌入模型

    • 根据具体测试领域,选择更适合的嵌入模型(如 Hugging Face 的领域特定模型)。
    • 对嵌入模型进行微调,增强对测试资产的理解。
  3. 检索增强

    • 设置检索的 k 值(返回的结果数量),根据实际需求调整。
    • 使用 RAG(Retrieval-Augmented Generation)技术,将用户查询的上下文与检索结果结合,提高生成模型的准确性。
  4. 多格式支持

    • 扩展对 docxpdf 等格式的解析,结合 PyPDF2python-docx 等库处理文档数据。

总结

通过 LangChain 和 Milvus,测试工程师可以快速构建一个高效的测试知识库,支持测试资产的存储、检索和生成。本文提供了从环境搭建到代码实现的完整流程,以及提高系统落地实践效果的建议。结合 LangChain 的检索能力和 Milvus 的向量存储性能,这套方案将显著提升测试工作的效率与准确性。


http://www.ppmy.cn/server/171355.html

相关文章

XFeat:轻量级的深度学习图像特征匹配

一、引言:图像特征匹配的挑战与XFeat的突破 在计算机视觉领域,图像特征匹配是视觉定位(Visual Localization)、三维重建(3D Reconstruction)、增强现实(AR)等任务的核心基础。传统方…

【Java项目】基于Spring Boot的网上商城购物系统

【Java项目】基于Spring Boot的网上商城购物系统 技术简介:采用Java技术、Spring Boot框架、MySQL数据库等实现。 系统简介:系统实现管理员:首页、个人中心、用户管理、商品分类管理、商品信息管理、订单评价管理、系统管理、订单管理&#x…

driver中为什么要使用非阻塞赋值

1. 模拟硬件时序行为 实际硬件行为:DUT的输入信号通常在时钟边沿被采样。Driver需要确保信号的更新与时钟同步,而非阻塞赋值的延迟更新特性(在时间步结束时统一生效)能够准确模拟寄存器的行为。 示例: always (posedg…

基于 Spring AI 的 HIS 系统智能化改造

【Spring AI 的背景与现状】 Spring AI 是 Spring 生态里整的一个新活儿,专门给开发者提供搞 AI 驱动的应用的工具和框架。虽然 Spring AI 已经鼓捣了挺长时间,但截至现在(2025年2月),它还没正式发布。不过&#xff0…

DeepSeek开源周 Day02:从DeepEP开源趋势重新审视大模型Infra

DeepEP 今天DeepSeek开源周第二天,开放了DeepEP仓库,属实看了下源码,和昨天FlashMLA一样,C权重(包括CUDA)还是占据了绝对部分,作为调包侠的我,看到之后望而却步,想看原理…

mysqldump 参数详解

mysqldump 是一个用于备份 MySQL 数据库的工具。它可以生成一组 SQL 语句,这些语句可以用来重现原始数据库对象定义和表数据。以下是一些常用的 mysqldump 参数及其详细解释: 常用参数 基本参数 --host=host_name, -h host_name: 指定 MySQL 数据库主机地址,默认为 localh…

使用Docker将ros1自定义消息通过rosjava_bootstrap生成jar包

文章目录 预准备环境rosjava_bootstrap坏消息好消息 环境安装docker安装rosjava_bootstrap仓库rosjava_center仓库修改rosjava_bootstrap代码拉取docker镜像放置自己的自定义消息 启动docker编译 预准备环境 rosjava_bootstrap rosjava_bootstrap是将自定义的ROS消息生成java…

太速科技-887-基于 RFSoC 47DR的8T8R 100Gbps 软件无线电光纤前端卡

基于 RFSoC 47DR的8T8R 100Gbps 软件无线电光纤前端卡 一、 板卡概述 板卡使用Xilinx最新的第三代RFSOC系列,单颗芯片包含8路ADC和DAC,64-bit Cortex A53系列4核CPU,Cortex-R5F实时处理核,以及大容量FPGA。对主机接口采用100…