Etcd 框架

news/2024/11/23 18:29:24/

基本了解

客户端、长连接与租约的关系

客户端对象

etcd的客户端对象是用户与etcd服务进行交互的主要接口,主要功能就是存储、通知和事务等功能访问

  • 键值存储:客户端通过put 和 get操作存储数据;数据存储在etcd的层级化键值数据库
  • 监听器(Watcher):客户端可以监听指定键的变化事件,如果键值发生改变,etcd会通过回调通知客户端;借助监听器可以实现动态管理配置和服务发现
  • 事务:提供txn接口,允许客户端进行原子性操作

工作原理

  • 客户端通过gRpc与etcd集群进行交互
  • 连接时,客户端需要提供集群的地址和认证信息
  • 连接建立后,客户端可以调用功能不同API完成具体功能

长连接

长连接是指客户端与etcd服务之间的持续连接,主要用于保持会话状态以及实现实时性功能

  • 保持租约长期有效:租约需要客户端通过长连接向etcd定期发送心跳包,否则租约会到期
  • 监听:监听功能依赖于长连接,当监听的键发生变化的时候,etcd通过长连接向客户端推送事件
  • 减少开销:长连接避免了频繁的连接断开,节省了建立连接的时间和资源

工作原理

  • 客户端与 etcd 集群节点通过 gRPC 建立连接
  • 建立连接后,客户端发送 KeepAlive 请求以保持连接
  • 如果 etcd 未在一定时间内接收到心跳,会认为连接断开

租约

etcd提供的一种机制,主要用于一段时间内绑定键值数据,并确保键值在租约有效期内有效

  • 动态生存时间:键值可以绑定到租约,租约到期后,绑定的键值会自动删除
  • 分布式锁:租约结合键值和keeplive实现分布式锁,确保资源的唯一占用
  • Session管理:通过租约,可以熟实现分布式会话管理

工作原理

  • 客户端调用 LeaseGrant 接口创建租约,并设置租期
  • 将键值与租约绑定。例如,使用 Put 命令时指定租约ID
  • 客户端通过长连接定期向 etcd 发送心跳,续租以保持租约有效
  • 如果未续约,租约到期后,绑定的键值会自动被删除

应用:服务实例向 etcd 注册自己(通过租约绑定信息),当实例下线或不可用时,租约自动到期并移除信息

基本使用

安装

框架安装

GitHub - etcd-cpp-apiv3/etcd-cpp-apiv3: The etcd-cpp-apiv3 is a C++ library for etcd's v3 client APIs, i.e., ETCDCTL_API=3.

验证动态库和相应的文件是否存在

使用

上传和获取逻辑

// get.cc#include <etcd/Client.hpp>
#include <etcd/KeepAlive.hpp>
#include <etcd/Response.hpp>
#include <etcd/Watcher.hpp>
#include <etcd/Value.hpp>
#include <thread>// 回调函数:用于处理监控到的键值变化事件
void callback(const etcd::Response &resp) {// 如果收到的事件通知无效,打印错误信息并返回if (!resp.is_ok()) {std::cout << "收到一个错误的事件通知: " << resp.error_message() << std::endl;return;}// 遍历事件列表,逐个处理每个事件for (auto const& ev : resp.events()) {// 如果事件类型是 PUT(键值被创建或修改)if (ev.event_type() == etcd::Event::EventType::PUT) {std::cout << "服务信息发生了改变:\n";std::cout << "当前的值:" << ev.kv().key() << " - " << ev.kv().as_string() << std::endl;std::cout << "原来的值:" << ev.prev_kv().key() << " - " << ev.prev_kv().as_string() << std::endl;}// 如果事件类型是 DELETE(键值被删除)else if (ev.event_type() == etcd::Event::EventType::DELETE_) {std::cout << "服务信息下线被删除:\n";std::cout << "当前的值:" << ev.kv().key() << " - " << ev.kv().as_string() << std::endl;std::cout << "原来的值:" << ev.prev_kv().key() << " - " << ev.prev_kv().as_string() << std::endl;}}
}int main(int argc, char *argv[])
{// 定义etcd服务的地址,默认使用本地运行的etcd服务std::string etcd_host = "http://127.0.0.1:2379";// 1. 实例化etcd客户端对象,用于和etcd服务交互etcd::Client client(etcd_host);// 2. 获取 "/service" 路径下的所有键值对auto resp = client.ls("/service").get(); // 同步调用获取响应if (!resp.is_ok()) {// 如果获取失败,打印错误信息并退出程序std::cout << "获取键值对数据失败: " << resp.error_message() << std::endl;return -1;}// 3. 遍历返回的键值对,打印每个键值对的信息int sz = resp.keys().size(); // 获取键值对的数量for (int i = 0; i < sz; ++i) {std::cout << resp.value(i).as_string() << " 可以提供 " << resp.key(i) << " 服务\n";}// 4. 实例化一个Watcher对象,用于监听 "/service" 路径下的键值变化// 参数说明:// - `client`: 使用前面实例化的客户端对象// - "/service": 要监听的路径// - `callback`: 监听到键值变化后调用的回调函数// - `true`: 是否递归监听路径下的子路径(true 表示递归)auto watcher = etcd::Watcher(client, "/service", callback, true);// 5. 启动Watcher,阻塞当前线程,持续监听事件,直到程序被中断watcher.Wait();// 6. 结束程序return 0;
}
//put.cc#include <etcd/Client.hpp>
#include <etcd/KeepAlive.hpp>
#include <etcd/Response.hpp>
#include <thread>int main(int argc, char *argv[])
{std::string etcd_host = "http://127.0.0.1:2379";//实例化客户端对象etcd::Client client(etcd_host);//获取租约保活对象--伴随着创建一个指定有效时长的租约auto keep_alive = client.leasekeepalive(3).get();//获取租约IDauto lease_id = keep_alive->Lease();//向etcd新增数据auto resp1 = client.put("/service/user", "127.0.0.1:8080", lease_id).get();if (resp1.is_ok() == false) {std::cout << "新增数据失败:" << resp1.error_message() << std::endl;return -1;}auto resp2 = client.put("/service/friend", "127.0.0.1:9090").get();if (resp2.is_ok() == false) {std::cout << "新增数据失败:" << resp2.error_message() << std::endl;return -1;}std::this_thread::sleep_for(std::chrono::seconds(10));return 0;
}

接口学习

基于上传和获取学习接口

etcd::Client

etcd::Client 是核心客户端类,用于与 etcd 服务进行交互,提供基本的键值存取和操作功能

构造函数

  • etcd_urletcd 服务地址(例如 http://127.0.0.1:2379
  • 创建一个与 etcd 服务通信的客户端对象
etcd::Client client(const std::string &etcd_url);

ls() 方法

  • 列出路径下所有的键值
  • key:路径键,表示需要获取其子键的根路径(例如 /service
  • 返回一个 std::future<etcd::Response>,可以通过 .get() 同步获取结果
std::future<etcd::Response> ls(const std::string &key);
auto resp = client.ls("/service").get();
if (resp.is_ok()) {// 获取成功,遍历键值for (const auto &key : resp.keys()) {std::cout << key << ": " << resp.value(key).as_string() << std::endl;}
} else {std::cerr << "获取失败: " << resp.error_message() << std::endl;
}

etcd::Watcher

 用于监听指定路径下的键值变化事件,并触发回调函数处理这些事件

构造函数

  • clientetcd::Client 对象,用于连接 etcd 服务。
  • key:要监听的路径键(例如 /service)。
  • callback:回调函数,当监听到键值变化时触发,参数是 etcd::Response 对象。
  • recursive:是否递归监听子路径下的键值变化,默认为 false
  • 功能:创建一个监听器对象,监听制定路径下的键值变化
etcd::Watcher watcher(etcd::Client &client, const std::string &key,std::function<void(const etcd::Response &)> callback,bool recursive = false);

Wait() 方法

  • 阻塞当前线程,持续监听键值变化事件,直到被中断
auto watcher = etcd::Watcher(client, "/service", callback, true);
watcher.Wait(); // 阻塞线程等待事件

 etcd::Response

 etcd 请求或事件的响应对象,包含操作结果及相关数据

 is_ok() 方法

  • 判断请求是否成功:成功则返回true,失败则返回false
bool is_ok() const;

error_message() 方法

  • 获取请求或者事件失败的错误信息
std::string error_message() const;

 keys() 方法

  • 获取路径下所有键的列表
std::vector<std::string> keys() const;

value(key) 方法

  •  返回指向键的值对象
etcd::Value value(const std::string &key) const;

 events() 方法

  • 获取监听器捕获到的事件列表
std::vector<etcd::Event> events() const;

etcd::Value

etcd::Value 表示 etcd 中的键值对,包含键、值及其元数据

key() 方法

  • 获取键的名称
std::string key() const;

 as_string() 方法

  • 获取键对应的值(字符串形式)
std::string as_string() const;etcd::Value val = resp.value(key);
std::cout << "Key: " << val.key() << ", Value: " << val.as_string() << std::endl;

二次封装 

基本思想

服务注册客户端类(Registry)

主要目标

  • etcd注册服务信息(通过键值对方式)并确保其活跃状态
  • 借用租约机制保证注册信息的有效性,如果租约过期,服务注册信息回自动清除

实现逻辑

  • 创建一个etcd客户端,用于与etcd进行通信
  • 创建租约(Lease),为服务注册信息绑定一个动态生存空间
  • 定期发送心跳保活(KeepLive),续约租约,确保服务信息不会被自动删除
  • 提供一个registry方法,用于注册服务信息(键值对)

服务发现客户端类

主要目标

  • etcd中获取指定路径下的当前服务信息
  • 通过监听机制实时监控服务信息的变化(例如服务新增、服务下线)
  • 使用回调函数处理服务变更事件

实现逻辑

  • 创建etcd客户端用于与etcd通信
  • 使用ls方法获取当前路径下所有的键值对,处理当前已有数据
  • 创建Watcher对象,监听指定路径下的数据变更事件
  • 在事件回调中,根据事件的类型调用对应的回调函数

具体实现

细节补充:Watcher中使用Bind进行回调的逻辑总结

  • Watcher 检测到事件etcd::Watcher 检测到指定路径的键值发生了变化(例如新增或删除)
  • Watcher 调用回调函数Watcher 将变化事件封装为 etcd::Response 对象,调用绑定后的函数对象,并将 etcd::Response 作为参数传递
  • 绑定的函数对象调用 callback:其中,thisDiscovery 类的实例,respetcd::Watcher 提供的事件响应
  • callback 函数执行callback 使用 resp 提供的事件信息,执行具体的业务逻辑(例如调用 _put_cb_del_cb
this->callback(resp);

etcd二次封装实现 

#pragma once
#include <etcd/Client.hpp>
#include <etcd/KeepAlive.hpp>
#include <etcd/Response.hpp>
#include <etcd/Watcher.hpp>
#include <etcd/Value.hpp>
#include <functional>
#include "logger.hpp"namespace mag {// 服务注册客户端类class Registry {public:using ptr = std::shared_ptr<Registry>;// 构造函数:初始化etcd客户端和租约(Lease)机制Registry(const std::string &host):_client(std::make_shared<etcd::Client>(host)), // 创建etcd客户端_keep_alive(_client->leasekeepalive(3).get()), // 创建一个3秒TTL的租约并保持续约_lease_id(_keep_alive->Lease()){} // 获取租约ID// 析构函数:取消租约续约,释放资源~Registry() { _keep_alive->Cancel(); }// 注册服务信息:将键值对存入etcd并绑定租约bool registry(const std::string &key, const std::string &val) {auto resp = _client->put(key, val, _lease_id).get(); // 绑定租约,写入键值对if (resp.is_ok() == false) {LOG_ERROR("注册数据失败:{}", resp.error_message()); // 打印错误日志return false;}return true; // 返回注册结果}private:std::shared_ptr<etcd::Client> _client; // etcd客户端对象std::shared_ptr<etcd::KeepAlive> _keep_alive; // 租约续约对象uint64_t _lease_id; // 租约ID};// 服务发现客户端类class Discovery {public:using ptr = std::shared_ptr<Discovery>;using NotifyCallback = std::function<void(std::string, std::string)>;// 构造函数:初始化etcd客户端,执行服务发现和事件监听Discovery(const std::string &host, const std::string &basedir,const NotifyCallback &put_cb,const NotifyCallback &del_cb):_client(std::make_shared<etcd::Client>(host)), // 创建etcd客户端_put_cb(put_cb), _del_cb(del_cb) // 设置回调函数{// 服务发现:获取当前路径下的已有服务数据auto resp = _client->ls(basedir).get(); // 列出路径下的所有键值if (resp.is_ok() == false) {LOG_ERROR("获取服务信息数据失败:{}", resp.error_message()); // 打印错误日志}int sz = resp.keys().size();for (int i = 0; i < sz; ++i) {if (_put_cb) _put_cb(resp.key(i), resp.value(i).as_string()); // 调用服务新增回调}// 事件监控:监听路径数据变更并调用回调处理_watcher = std::make_shared<etcd::Watcher>(*_client.get(), basedir,std::bind(&Discovery::callback, this, std::placeholders::_1), true);}// 析构函数:取消事件监听,释放资源~Discovery() {_watcher->Cancel();}private:// 事件回调函数:处理服务新增和删除事件void callback(const etcd::Response &resp) {if (resp.is_ok() == false) {LOG_ERROR("收到一个错误的事件通知: {}", resp.error_message()); // 打印错误日志return;}for (auto const& ev : resp.events()) {// 新增服务事件if (ev.event_type() == etcd::Event::EventType::PUT) {if (_put_cb) _put_cb(ev.kv().key(), ev.kv().as_string()); // 调用服务新增回调LOG_DEBUG("新增服务:{}-{}", ev.kv().key(), ev.kv().as_string()); // 打印调试信息}// 服务下线事件else if (ev.event_type() == etcd::Event::EventType::DELETE_) {if (_del_cb) _del_cb(ev.prev_kv().key(), ev.prev_kv().as_string()); // 调用服务删除回调LOG_DEBUG("下线服务:{}-{}", ev.prev_kv().key(), ev.prev_kv().as_string()); // 打印调试信息}}}private:NotifyCallback _put_cb; // 服务新增事件回调NotifyCallback _del_cb; // 服务删除事件回调std::shared_ptr<etcd::Client> _client; // etcd客户端对象std::shared_ptr<etcd::Watcher> _watcher; // 事件监听器};
}

 测试注册和发现逻辑

#include "etcd.hpp"
#include <iostream>
#include <chrono>
#include <thread>// 服务新增回调
void onServiceAdded(const std::string &key, const std::string &value) {std::cout << "发现新增服务:" << key << " -> " << value << std::endl;
}// 服务下线回调
void onServiceRemoved(const std::string &key, const std::string &value) {std::cout << "服务下线:" << key << " -> " << value << std::endl;
}int main() {std::string etcd_host = "http://127.0.0.1:2379";std::string watch_dir = "/service";// 创建Discovery对象mag::Discovery::ptr discovery = std::make_shared<mag::Discovery>(etcd_host, watch_dir, onServiceAdded, onServiceRemoved);// 保持监听状态std::cout << "开始监听服务变更,按 Ctrl+C 退出..." << std::endl;std::this_thread::sleep_for(std::chrono::seconds(600));return 0;
}
#include "etcd.hpp"
#include <iostream>
#include <chrono>
#include <thread>int main() {std::string etcd_host = "http://127.0.0.1:2379";std::string key = "/service/example";std::string value = "127.0.0.1:8080";// 创建Registry对象mag::Registry::ptr registry = std::make_shared<mag::Registry>(etcd_host);// 注册服务if (registry->registry(key, value)) {std::cout << "服务注册成功:" << key << " -> " << value << std::endl;} else {std::cerr << "服务注册失败!" << std::endl;return -1;}// 保持注册信息的活跃状态std::cout << "服务正在运行,按 Ctrl+C 退出..." << std::endl;std::this_thread::sleep_for(std::chrono::seconds(600));return 0;
}

问题

编译问题慢

问题描述

 多次对该文件进行编译,编译总是卡在80%左右停止,服务器环境是2核2G的云服务器

分析

 经htop进行排查,发现部分服务占用了大量内存,从而导致编译写入和读取文件速度变慢

解决思路

停止占用内存较高的MySQL服务

sudo systemctl stop mysql

清理缓存和无用数据

sync; echo 3 | sudo tee /proc/sys/vm/drop_caches

删除临时文件进一步释放空间

sudo apt autoremove -y
sudo apt clean

使用两个线程对程序进行编译

make -j2


http://www.ppmy.cn/news/1549341.html

相关文章

2024年11月21日Github流行趋势

项目名称&#xff1a;twenty 项目维护者&#xff1a;charlesBochet, lucasbordeau, Weiko, FelixMalfait, bosiraphael项目介绍&#xff1a;正在构建一个由社区支持的现代化Salesforce替代品。项目star数&#xff1a;21,798项目fork数&#xff1a;2,347 项目名称&#xff1a;p…

前端框架Vue3基础部分

什么是Vue&#xff1f; Vue是一个能用于构建用户交互页面&#xff08;动态网页&#xff09;的渐进式JavaScript框架&#xff0c;易学易用&#xff0c;性能出色&#xff0c;适用性强的Web前端框架。 Vue的设计模式&#xff1f; Vue的设计模式&#xff1a;MVVM模式 MVVM设计模…

革新车间照明,分布式IO模块引领智能制造新纪元

在智能制造的浪潮中&#xff0c;每一个细节的优化都是推动生产效率与能耗管理迈向新高度的关键。车间照明系统&#xff0c;作为生产环境中不可或缺的一环&#xff0c;其智能化升级正成为众多企业转型升级的重要着力点。 一、从传统到智能&#xff1a;照明系统的变革之旅 传统…

1.langchain中的prompt模板(Prompt Templates)

本教程将介绍如何使用 LangChain 库中的提示模板&#xff08;PromptTemplate&#xff09;来生成和处理文本。我们将通过具体的代码示例来解释程序的运行逻辑。 1. 导入必要的库 首先&#xff0c;从 langchain_core.prompts 模块中导入 PromptTemplate 类。 from langchain_c…

Spark 分布式计算中网络传输和序列化的关系(二)

在 Spark 分布式计算 中&#xff0c;网络传输和序列化是数据处理的重要组成部分。Spark 通过将任务划分为多个分布式计算节点来处理数据&#xff0c;而序列化和网络传输直接影响计算性能和数据交互效率。 1. 序列化在 Spark 中的作用 序列化是 Spark 将数据对象转换为字节流以…

基于Matlab实现LDPC编码

在无线通信和数据存储领域&#xff0c;LDPC&#xff08;低密度奇偶校验码&#xff09;编码是一种高效、纠错能力强大的错误校正技术。本MATLAB仿真程序全面地展示了如何在AWGN&#xff08;加性高斯白噪声&#xff09;信道下应用LDPC编码与BPSK&#xff08;二进制相移键控&#…

中国省级金融发展水平指数(金融机构存款余额、贷款余额、GDP)2020-2023年

数据范围&#xff1a; 包含的数据内容如下&#xff1a; 分省份金融机构存款余额、分省份金融机构贷款余额、分省份金融机构存贷款余额、分省份GDP、分省份金融发展指数 西藏自治区、贵州省、黑龙江省2023年数据暂未公布&#xff0c;计算至2022年&#xff0c;其他省份数据无缺失…

Cloud Native 云原生后端的开发注意事项

在云原生后端开发里&#xff0c;数据管理和存储这块得好好弄。数据库选型得综合考虑&#xff0c;像关系型数据有复杂查询需求就选 MySQL、PostgreSQL&#xff0c;海量非结构化数据就可以考虑 MongoDB、Cassandra 这些。设计数据库得遵循规范化原则&#xff0c;像设计电商订单表…