【FATE】联邦学习 optimizer在FATE的自定义trainer中被改变

news/2024/10/23 9:28:15/

起因

使用torch的optimizer添加了2组parameter,传参进入FATE的trainer后,optimizer被改变,且FATE框架无提示。

代码差不多是下面这样:

# optimizer中加入2组优化参数(param)
optimizer = torch.optim.SGD([{'params':base, 'lr':0.1*train_args['lr']},\{'params':head, 'lr':train_args['lr']}])nn_component = HomoNN(name='sanet',model=model, # modelloss=loss,optimizer=optimizer, # 传入trainer后dataset=dataset_param,  # datasettrainer=TrainerParam(trainer_name='sa_trainer', cuda=True, checkpoint_save_freqs=1, **params),torch_seed=100, # random seed)# optimizer的param_group在trainer中就只变成1组了,其他的不见了。

github上反馈给社区了:我提的issue
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-I9vA6ec9-1688611983896)(https://user-images.githubusercontent.com/31330044/251026326-46379778-8b50-4ebc-a486-d9b4f27fdbf4.png)]

解决

解决方法是不使用FATE给的接口,而自己直接在trainer里面提供optimizer。

class Trainer():def init(opt_name='sgd'):xxxxdef train():self.optimizer = make_optimizer(self.model, self.opt_name)

可以在trainer中自己实现,提交任务时不提供optimizer参数即可.


http://www.ppmy.cn/news/757476.html

相关文章

python爬虫框架之Scrapy配置文件详解

概述 简介 配置文件是settings.py 官网配置文档 爬取的相关配置 DOWNLOAD_DELAY 下载者从同一网站下载连续页面之前应等待的时间,可以用来限制爬行速度 单位秒,支持十进制数,如:DOWNLOAD_DELAY 0.25 # 250 ms of delay D…

JMeter分布式压测连接Jenkins生成HTML报告时候报错No such file or directory

JMeter-master机器上没有该文件。从官网下载的JMeter都会有该文件,添加进去即可。

reeRTOS与HAL库在STM32F103上实现CANFestival从属客户端的解析与实践指南

欢迎阅读本文,我在这里将为大家介绍如何在FreeRTOS和HAL库的环境中在STM32F103上实现CANFestival的从属客户端。我们将详细探讨每一个步骤,并提供少量示例代码,帮助大家理解这个过程。 实战项目下载 1. 前言 在嵌入式系统的开发过程中&…

LR常见问题处理参考方案

一、刚刚破解安装的lr软件,它的默认设置是自动添加关联的,直接录制会让原本没问题的脚本回放时变得不成功。例如:就录一个登陆模块怎么回放都不成功,自己手动添加一个关联也不好用,错误提示: Action.c(20):…

Kubernetes 应用故障排除—调试 Pod

一、调试 Pod 调试 Pod 的第一步是查看 Pod 信息。用如下命令查看 Pod 的当前状态和最近的事件: kubectl describe pods ${POD_NAME}查看一下 Pod 中的容器所处的状态。这些容器的状态都是 Running 吗?最近有没有重启过? 后面的调试都是要…

MySQL:数据的增删改查

数据的增删改查 前言一、插入数据1、实际问题2、方式1:VALUES的方式添加3、方式2:将查询结果插入到表中 二、删除数据三、更新数据四、查询数据五、MySQL8新特性:计算列 前言 本博主将用CSDN记录软件开发求学之路上亲身所得与所学的心得与知…

18W PD充电器方案

由于人们对于智能手机的依赖,往往都是一天一充,甚至使用强度稍大时要一天两充,这对我们的生活造成很大不便,如果紧急情况下手机突然断电了,必然会对生活造成影响,骊微电子推出18W PD快速充电器方案,充电功率可达18W,智能兼容12V、9V和5V多种电压。 QC3.0快充18W充电器方…

web安全php基础_魔术常量__FUNCTION__与__METHOD__的区别

PHP 魔术常量 PHP 向它运行的任何脚本提供了大量的预定义常量。 不过很多常量都是由不同的扩展库定义的,只有在加载了这些扩展库时才会出现,或者动态加载后,或者在编译时已经包括进去了。 有八个魔术常量它们的值随着它们在代码中的位置改…