算法思想比较
- 回溯法:有“通用解题法”之称,用它可以系统地搜索问题的所有解。回溯法是按照深度优先搜索(DFS)的策略,从根结点出发深度探索解空间树
- 分治法:将一个难以直接解决的大问题,分割成一些规模较小的相同问题,以便各个击破,分而治之。步骤为分解、处理和解合并
- 动态规划:与分治法类似,将问题分解为子问题,但会找出最优子结构以避免大量重复计算,最后构造最优解
分治法、回溯法与动态规划的共同点:
- 都利用了子问题的解进行决策
- 都能利用递归的算法结构实现功能
- 分治法、回溯法与动态规划是算法思想
- 递归和迭代是算法结构
- 算法思想使用算法结构实现功能
递归与回溯的区别
递归是一种算法结构。递归会出现在子程序中,形式上表现为直接或间接的自己调用自己。典型的例子是阶乘,计算规律为: n ! = n ∗ ( n − 1 ) ! {n!= n * (n−1)!} n!=n∗(n−1)!
int f(int n){return n == 1 ? 1 : n * f(n - 1);
}
回溯是一种算法思想,它有“通用解题法”之称,用它可以系统地搜索问题的所有解。回溯法是用递归实现的
分治法
分治法的设计思想:将一个难以直接解决的大问题,分割成一些规模较小的相同问题,以便各个击破,分而治之。
凡治众如治寡,分数是也。——孙子兵法
基本思想
分治法所能解决的问题一般具有以下几个特征:
- 该问题的规模缩小到一定的程度就可以容易地解决
- 该问题可以分解为若干个规模较小的相同问题,即该问题具有最优子结构性质
- 利用该问题分解出的子问题的解可以合并为该问题的解
- 该问题所分解出的各个子问题是相互独立的,即子问题之间不包含公共的子问题
回溯法
回溯法有“通用解题法”之称,用它可以系统地搜索问题的所有解。回溯法是一个既带有系统性又带有跳跃性的搜索算法。
在包含问题的所有解的解空间树中,按照深度优先搜索(DFS)的策略,从根结点出发深度探索解空间树。当探索到某一结点时,要先判断该结点是否包含问题的解,如果包含,就从该结点出发继续探索下去,如果该结点不包含问题的解,则逐层向其祖先结点回溯。(其实回溯法就是对隐式图的深度优先搜索算法)。
若用回溯法求问题的所有解时,要回溯到根,且根结点的所有可行的子树都要已被搜索遍才结束。 而若使用回溯法求任一个解时,只要搜索到问题的一个解就可以结束。
解题步骤
- 针对所给问题,定义问题的解空间
- 确定易于搜索的解空间结构
- 以深度优先方式搜索解空间,并在搜索过程中用剪枝函数避免无效搜索
动态规划
动态规划(Dynamic Programming, DP)是一种解决多阶段决策过程最优化问题的数学方法。动态规划的特点是将原问题分解成多个子问题进行求解,每个子问题只求解一次,并将其结果保存下来,避免重复计算。然后通过组合子问题的解来得到原问题的解。
核心思想
动态规划一般用于求解具有重叠子问题和最优子结构的问题,例如最长公共子序列、背包问题、最短路径等。重叠子问题指的是在求解问题的过程中,多次用到相同的子问题,最优子结构指的是问题的最优解可以通过子问题的最优解来构造。
解题步骤
动态规划的基本步骤是:
- 状态定义
- 状态转移方程(最优子结构)
- 边界条件
- 最优解的计算
状态指的是子问题的描述信息,状态转移方程指的是子问题之间的关系,边界条件指的是最简单的子问题的解法,最优解的计算则是通过递推或者回溯等方式得到
参考资料:
- Leetcode 回溯法详解
- Leetcode 分治法详解
- Leetcode 动态规划详解