目录
管理服务器
增加负载 && 减少负载
重置负载 && 获得负载
添加配置信息
什么是负载均衡
如何实现?
管理服务器
增加负载 && 减少负载
客户端访问一次服务器,负载就加1。客户端结束访问服务器,负载就需要减1。
因为负载是临界资源,存在多台客户端访问同一台服务器的情况,有的客户端要增加服务器的负载,有的客户端要减少服务器的负载,如果不对负载这个临界资源做保护,就会存在数据不一致的情况。
所以需要加锁,保护临界资源。
// 增加负载void InLoad(){// 判断锁不是空指针if (_mtx)_mtx->lock();++_load;if (_mtx)_mtx->unlock();}// 减少负载void DeLoad(){// 锁不是空指针if (_mtx)_mtx->lock();--_load;if (_mtx)_mtx->unlock();}
重置负载 && 获得负载
如果服务器下线了,就需要重置负载。
当该服务器再次上线时,才可以保证负载是正确的,不受过去数据的影响。
对于获取负载,为了在获取负载时保证数据一致,就需要加锁,如果在加锁后直接 return,就会导致锁没有释放。
为了既保证数据一致,又能释放锁,就需要定义局部变量 load。
// 重置负载void ResetLoad(){// 锁不是空指针if (_mtx)_mtx->lock();_load = 0;if (_mtx)_mtx->unlock();}// 获取该主机的负载uint64_t Load(){uint64_t load = 0;if (_mtx)_mtx->lock();load = _load;if (_mtx)_mtx->unlock();return load;}
负载均衡
添加配置信息
设置一个配置文件,文件中记录服务器的 IP 和 端口号,为了方便测试,IP 设为环回地址:
什么是负载均衡
通过在多个服务器之间分散工作负载,即使某个服务器出现故障,其他服务器也能继续处理请求,从而提高了系统的可靠性和可用性。负载均衡可以智能地将请求分发给当前负载较低的服务器,这有助于减少响应时间,并提高整体系统性能。
如何实现?
遍历在线列表中的服务器,得出负载最小的服务器,把用户提交的代码和测试用例合并之后,封装成报文发给负载最小的服务器。
- 如果应答报文为空:在本项目中,服务器下线时不会对外发送退出信号,所以请求服务时,服务器可能已经下线了,如果应答报文为空,说明主机下线了,请求服务失败,此时需要重新选择服务器;
- 如果应答报文不为空:
- 如果应答报文的状态码为 200,说明服务器成功编译并运行了报文中的代码,此时不需要再选择服务器了;
- 如果应答报文的状态码不为 200,说明请求服务失败了,就重新选择服务器。
// 判题// in_json:用户提交的代码的序列化字符串,out_json:输出型参数,返回判题结果void Judge(const std::string &number, const std::string in_json, std::string *out_json){// 获取对应的题目信息struct Question q;_model.GetOneQuestion(number, &q);Json::Reader reader;Json::Value in_value;reader.parse(in_json, in_value);std::string code = in_value["code"].asString();// 序列化Json::Value compile_value;compile_value["code"] = code + "\n" + q.tail;compile_value["input"] = in_value["input"].asString();compile_value["cpu_limit"] = q.cpu_limit;compile_value["mem_limit"] = q.mem_limit;Json::FastWriter writer;std::string compile_string = writer.write(compile_value);// 循环式选择主机while (true){// 选择主机Machine *m = nullptr;int id = 0;if (!_loadbalance.SmartChoice(&id, &m)){// 没有主机在线break;}// 得到主机Client cli(m->_ip, m->_port);// 增加负载m->InLoad();LOG(INFO) << " 选择主机成功,主机id:" << id << " 详情:" << m->_ip << ":" << m->_port << " 当前主机的负载是:" << m->Load() << "\n";// 发起请求/// compile_and_run:要请求的资源,auto res = cli.Post("/compile_and_run", compile_string, "application/json;charset=utf-8");if (res){// 请求成功if (res->status == 200)// 判题成功{// 收到判题结果*out_json = res->body;// 减少负载m->DeLoad();LOG(INFO) << "请求编译合运行服务成功..." << "\n";// 得到编译运行结果,判题成功,退出循环break;}// 判题失败,状态码不是200// 减少负载m->DeLoad();// 因为请求结果错误,故继续循环,继续选择主机,继续请求}else{// 请求失败,返回值 res 为 nullptr,可能是主机下线导致的LOG(ERROR) << " 当前请求的主机id:" << id << " 详情:" << m->_ip << ":" << m->_port << " 可能已经离线" << "\n";// 从在线列表中下线该主机_loadbalance.OfflineMachine(id);// 打印日志信息,用于测试_loadbalance.ShowMachines();// 继续循环,继续请求}}