在图像复原中，极大似然估计（Maximum Likelihood Estimation, MLE）提供了一种基于统计的方法来恢复原始图像。这种方法通过构建一个描述退化过程的概率模型，并找到最可能产生观测到的退化图像的参数值来进行图像复原。MLE 不仅考虑了退化过程本身，还考虑了噪声的统计特性。

极大似然估计应用于图像复原

假设我们有一个退化图像$\mathbf{g}$，它是从原始图像$\mathbf{f}$经过线性退化算子$\mathbf{H}$和加性噪声$\mathbf{n}$产生的：

$$\mathbf{g}=\mathbf{H}\mathbf{f}+\mathbf{n}$$

这里：

• $\mathbf{g}$是退化后的观测图像。
• $\mathbf{H}$是退化矩阵，例如点扩散函数（PSF）的离散化版本。
• $\mathbf{n}$是噪声向量，通常假定为均值为0、方差为${\sigma }^2$的高斯白噪声。

极大似然估计是寻找最有可能生成观测图像$\mathbf{g}$的原始图像$\mathbf{f}$。

构建似然函数

对于每个像素位置$i$，观测值$g_i$可以视为随机变量，其概率密度函数（PDF）由下式给出：

$$p(g_i|f_i;\mathbf{H},{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp \left(-\frac{(g_i-(\mathbf{H}\mathbf{f}{)}_i{)}^2}{2{\sigma }^2}\right)$$

假设噪声是独立同分布（i.i.d.）的高斯噪声。由于像素之间的噪声是独立的，我们可以将所有像素的概率相乘得到整个图像的联合概率：

$$L(\mathbf{f};\mathbf{g},\mathbf{H},{\sigma }^2)=\prod _{i=1}^{N}p(g_i|f_i;\mathbf{H},{\sigma }^2)$$

对数似然函数为：

$$\ln L(\mathbf{f};\mathbf{g},\mathbf{H},{\sigma }^2)=-\frac{N}{2}\ln (2\pi {\sigma }^2)-\frac{1}{2{\sigma }^2}\sum _{i=1}^N(g_i-(\mathbf{H}\mathbf{f}{)}_i{)}^2$$

最大化对数似然函数

为了简化计算，我们通常最大化对数似然函数。注意到第一项与$\mathbf{f}$无关，因此优化问题可以简化为最小化残差平方和（RSS），这实际上等价于最小二乘估计：

$$\hat{\mathbf{f}}=\arg \underset{\mathbf{f}}{\min }\sum _{i=1}^N(g_i-(\mathbf{H}\mathbf{f}{)}_i{)}^2$$

然而，如果噪声不是高斯分布或者退化模型更复杂，MLE 可能会采取不同的形式，并且需要更复杂的优化方法来求解。

正则化的极大似然估计

在实际应用中，直接使用 MLE 可能会导致病态问题或对噪声敏感。为了克服这些问题，可以在似然函数中添加正则化项，形成正则化的极大似然估计（Regularized Maximum Likelihood, RML）。例如，Tikhonov 正则化可以被添加到对数似然函数中，从而得到：

$$\hat{\mathbf{f}}=\arg \underset{\mathbf{f}}{\min }\left[\sum _{i=1}^N(g_i-(\mathbf{H}\mathbf{f}{)}_i{)}^2+\lambda \Vert \mathbf{R}\mathbf{f}{\Vert }_2^2\right]$$

这里$\lambda$是正则化参数，$\mathbf{R}$是正则化矩阵，它可以根据先验知识选择，比如平滑度、总变差等。

迭代算法

对于大型图像数据集，解析解可能是不切实际的，因此常常使用迭代优化算法来求解上述优化问题。这些算法包括但不限于梯度下降法、牛顿法、共轭梯度法以及专门针对图像处理设计的算法如期望最大化（EM）算法。