L1 loss 是什么

news/2025/3/4 14:18:04/

L1 Loss(也称为Mean Absolute Error)是深度学习中常用的一种损失函数,用于衡量模型预测结果与真实标签之间的平均绝对误差。具体来说,对于一个大小为N的样本集合,L1 Loss定义如下:

L 1 ( y , y ^ ) = 1 N ∑ i = 1 N ∣ y i − y ^ i ∣ L_{ 1 }(y, \hat{y}) = \frac{1}{N} \sum_{i=1}^{N}|y_i - \hat{y}_i| L1(y,y^)=N1i=1Nyiy^i

其中, y i y_i yi表示样本i的真实标签(ground truth), y ^ i \hat{y}_i y^i表示模型对于样本i的预测标签。将每个样本的绝对误差取平均值,得到L1 Loss。

与L2 Loss(也称为Mean Squared Error)相比,L1 Loss更加鲁棒,对于异常值(outliers)的容忍性更高。因此,在某些需要考虑异常值的任务中,例如目标检测、人脸识别等领域,L1 Loss被广泛应用。


http://www.ppmy.cn/news/546485.html

相关文章

L1、L2、smooth L1三类损失函数

一、常见的MSE、MAE损失函数 1.1 均方误差、平方损失 均方误差(MSE)是回归损失函数中最常用的误差,它是预测值与目标值之间差值的平方和,其公式如下所示: 下图是均方根误差值的曲线分布,其中最小值为预测值…

正则项:L1与L2

正则项 一般地,我们优化 M S E MSE MSE l m s e ∑ i ( y i − y ^ i ) 2 n l_{mse}\frac{\sum_i (y_i-\hat y_i)^2}{n} lmse​n∑i​(yi​−y^​i​)2​ 为了使参数尽可能小,加入正则项,防止过拟合,减小方差。L1正则可以更容易…

L1, L2以及smooth L1 loss

在机器学习实践中,你也许需要在神秘的L1和L2中做出选择。通常的两个决策为:1) L1范数 vs L2范数 的损失函数; 2) L1正则化 vs L2正则化。 作为损失函数 L1范数损失函数,也被称为最小绝对值偏差(LAD)&#…

YK-L1刷机

文章目录 1.测试是否能够连接到路由器2.刷breed3.Padavan firmware编译4.烧板5.验证杂文1.1设置应用开机后自启动1.编写测试用程序2.编写运行脚本3.编写start.service4.设置为开机自启动5.验证 1.2内核模块编写(使用insmod方式)1.3内核模块编写&#xff…

L1 和 L2的区别

L1 和 L2的区别: L1范数是指向量中各个元素绝对值值和,也有一个美称叫“稀疏规则算子”。(Lasso regularization) 比如向量 A [ 1 , − 1 , 3 ] A [1,-1,3] A[1,−1,3],那么A的L1范数为 ∣ 1 ∣ ∣ − 1 ∣ ∣ 3 ∣ |1||-1||…

L1和L2 复习问题

L1和L2 L2正则化,为什么L2正则化可以防止过拟合?L1正则化是啥? https://editor.csdn.net/md/?articleId106009362 “为什么所有这些都有助于减少过度拟合的问题?” 请考虑绝对值和平方函数的图,其中绝对值表示在L1期…

L1和L2正则化区别

1. L1和L2的定义 L1正则化,又叫Lasso Regression 如下图所示,L1是向量各元素的绝对值之和 L2正则化,又叫Ridge Regression 如下图所示,L2是向量各元素的平方和 2. L1和L2的异同点 相同点:都用于避免过拟合 不同点…

L1正则化和L2正则化讲解

L1正则化和L2正则化讲解 在机器学习实践过程中,训练模型的时候往往会出现过拟合现象,为了减小或者避免在训练中出现过拟合现象,通常在原始的损失函数之后附加上正则项,通常使用的正则项有两种:L1正则化和L2正则化。 L1…