(具体解决方案)训练GAN深度学习的时候出现生成器loss一直上升但判别器loss趋于0

news/2024/12/27 3:57:11/

今天小陶在训练CGAN的时候出现了绷不住的情况,那就是G_loss(生成器的loss值)一路狂飙,一直上升到了6才逐渐平稳。而D_loss(判别器的loss值)却越来越小,具体的情况就看下面的图片吧。其实这在GAN训练里是非常容易遇到的问题,所以不用慌,是有解决的办法的。小陶就通过一些手段进行调控,最终获得了比较满意的效果。

在介绍处理方法之前,首先絮叨絮叨为什么训练GAN容易出现上面左右这样的情况。当然,需要明确的是,GAN的效果如何,其实是很主观的事情,也许和loss表现的趋势没啥太大的关系,也许在loss表现不对劲的情况下也能生成效果好的图片。

如果你理解GAN原理的话(不理解可以去看文章『GAN入门(一):GAN的基本原理概述(新手易懂版)』以及『GAN入门(二):GAN的算法公式流程介绍)』),肯定知道所谓对抗,就是生成器和判别器的对抗。生成器在判别器的指导下将一段噪声变成符合我们需求的图片。上面左图就是生成器和判别器能力悬殊,生成器生成的照片已经无法来欺骗判别器了。所以G_loss就一直上升,具体在图片上的表现是生成了空白图片或者纯噪声图片,没啥价值,例如下面的图片就是我生成过程中出现的无价值图片。想要改变这个情况,那就要调整生成器的能力或者削弱判别器的能力。当然,我们更希望通过增强生成器的学习能力来让其与判别器势均力敌。让生成器和判别器势均力敌的方法有很多。

 下面就介绍小陶自己实际使用的调整方法:(具体解决方案)训练GAN深度学习的时候出现生成器loss一直上升但判别器loss趋于0 - 陶小桃Blog今天小陶在训练CGAN的时候出现了绷不住的情况,那就是G_loss(生成器的loss值)一路狂飙,一直上升到了6才逐渐平稳。而D_loss(判别器的loss值)却越来越小,具体的情况就看下面的图...https://www.52txr.cn/2023/ganlossmodified.html


http://www.ppmy.cn/news/1005352.html

相关文章

将css文件中的px转化为rem

pxToRem.js /*** 使用方式:* 与引入的文件放在同一目录下进行引用配置,执行:node (定义的文件)*/ const fs require(fs) const path require(path) /*** entry:入口文件路径 type:Strng* pxtopx:以倍数转…

MySQL 数据库 binLog 日志的使用

一、概念与作用 binlog(二进制日志)是MySQL数据库中的一种日志类型。它记录了数据库中的所有更改操作,例如插入、更新、删除操作。binlog以二进制形式存储,因此可以更高效地进行读取和解析。 binlog通常用于以下几个方面&#x…

Demystifying Prompts in Language Models via Perplexity Estimation

Demystifying Prompts in Language Models via Perplexity Estimation 原文链接 Gonen H, Iyer S, Blevins T, et al. Demystifying prompts in language models via perplexity estimation[J]. arXiv preprint arXiv:2212.04037, 2022. 简单来说就是作者通过在不同LLM和不同…

【C++】总结10--C++11第二篇

文章目录 RAIIC11新特性 RAII RAII(Resource Acquisition Is Initialization)是一种利用对象生命周期来控制程序资源(如内存、文件句柄、网络连接、互斥量等)的简单技术,在对象的构造函数中获取资源,在对象…

JAVA实现存在更新不存在插入与及多余的进行删除(三)

这个版本,主要是迭代重载了下save方法,不废话,直接上代码: /*** 保存数据,处理数据的增删改** param paramData 前台的参数* param dbData 后台的数据* param clazz 前后台参数对应的class* param beanName …

【LangChain】Prompts之Prompt templates

Prompts 编程模型的新方法是通过提示(prompts)。 prompts是指模型的输入。该输入通常由多个组件构成。 LangChain 提供了多个类和函数,使构建和使用prompts变得容易。 Prompt templates(提示模板): 参数化模型输入Example selectors(选择器示例): 动态选择要包含在…

连接 MySQL

文章目录 1.连接本地 MySQL2.连接远程 MySQL3.退出 MySQL4.查看 MySQL 版本 1.连接本地 MySQL 首先打开 Shell 命令终端或命令行程序,键入命令mysql -u root -p,回车后提示输入密码。注意用户名和密码与命令选项之间的空格可有可无。 mysql -u USER_NA…