深度学习优化函数详解系列目录
深度学习优化函数详解（0）– 线性回归问题
深度学习优化函数详解（1）– Gradient Descent 梯度下降法
深度学习优化函数详解（2）– SGD 随机梯度下降
深度学习优化函数详解（3）– mini-batch SGD 小批量随机梯度下降
深度学习优化函数详解（4）– momentum 动量法
深度学习优化函数详解（5）– Nesterov accelerated gradient (NAG)
深度学习优化函数详解（6）– adagrad
相关文章
LeetCode简单题之统计字符串中的元音子字符串
题目
子字符串 是字符串中的一个连续（非空）的字符序列。 元音子字符串 是 仅 由元音（‘a’、‘e’、‘i’、‘o’ 和 ‘u’）组成的一个子字符串，且必须包含 全部五种 元音。 给你一个字符串 word ，统计并返…
深度学习优化方法-AdaGrad 梯度下降
梯度下降算法、随机梯度下降算法（SGD）、小批量梯度下降算法（mini-batch SGD）、动量法（momentum）、Nesterov动量法有一个共同的特点是：对于每一个参数都用相同的学习率进行更新。但是在实际应用中…
LeetCode简单题之三除数
题目
给你一个整数 n 。如果 n 恰好有三个正除数 ，返回 true ；否则，返回 false 。 如果存在整数 k ，满足 n k * m ，那么整数 m 就是 n 的一个 除数 。 示例 1： 输入：n 2 输出：fal…
决策树--信息增益，信息增益比，Geni指数的理解
20210528
https://blog.csdn.net/qq_39408570/article/details/89764177 信息增益和基尼指数不是等价的 大多数时候它们的区别很小 信息增益对较混乱的集合有很好的表现力，但是基尼指数有所欠缺。另一方面，这也说明较纯的集合，基尼指数可能会…
LeetCode简单题之哪种连续子字符串更长
题目
给你一个二进制字符串 s 。如果字符串中由 1 组成的 最长 连续子字符串 严格长于 由 0 组成的 最长 连续子字符串，返回 true ；否则，返回 false 。 例如，s “110100010” 中，由 1 组成的最长连续子字符串的长度是…
LeetCode简单题之按奇偶性交换后的最大数字
题目
给你一个正整数 num 。你可以交换 num 中 奇偶性 相同的任意两位数字（即，都是奇数或者偶数）。 返回交换 任意 次之后 num 的 最大 可能值。 示例 1： 输入：num 1234 输出：3412 解释：交换数…
带你彻彻底底搞懂朴素贝叶斯公式
https://zhuanlan.zhihu.com/p/54287889 本文参考了该博客的实例，但该博客中的朴素贝叶斯公式计算错误，评论中的也不对，所以，重新写一篇。一. 朴素贝叶斯朴素贝叶斯中的朴素一词的来源就是假设各特征之间相互独立。这一假设使得朴…