【SegRNN 源码理解】self.revIN可逆实例标准化

ops/2025/3/6 11:01:48/
       if self.revin: #self.revin =  1  (休止符)x = self.revinLayer(x, 'norm').permute(0, 2, 1) # b,s,c -> b,c,s # goto 

也是一种标准化

  1. 是什么
  2. 两次标准化
  3. 分布偏移
  4. 实例归一化

实例归一化

分布偏移

计算方法

# 归一化步骤
x = (x - mean) / std  # 消除分布偏移# 在预测后的反归一化步骤
y = y * std + mean  # 恢复原始数据分布

RevIN的工作原理:

  1. 实例级归一化

    • 不同于全局标准化,RevIN对每个输入序列单独计算统计量
    • 针对每个通道(特征)分别处理
  2. 可逆设计

    • 保存归一化参数(均值和标准差)
    • 允许在预测后"反归一化",恢复原始数据分布的特性
  3. 保留模式而消除分布

    • 消除绝对水平和尺度的影响
    • 让模型专注于学习序列的相对变化模式

举例说明:

假设有两个季节的疾病数据,夏季感染率在0-10范围,冬季在50-60范围:

应用RevIN后:

是什么

这段代码完成两个关键操作:

1. 数据归一化处理 (RevIN)

self.revinLayer(x, 'norm') 调用了 RevIN (Reversible Instance Normalization) 层对输入数据进行归一化:

  • RevIN 是什么:一种专为时间序列设计的可逆归一化技术,可以处理非平稳时间序列中的分布偏移问题

  • 工作原理:对每个实例(样本)的每个通道分别进行归一化

  • 为什么需要:与数据加载时的全局标准化不同,RevIN 对每个序列单独归一化,处理序列内部的分布变化

  • 可逆特性:RevIN 保存归一化参数,在模型输出时可以"反归一化",恢复原始分布

2. 维度变换 (permute)

.permute(0, 2, 1) 改变了张量的维度顺序:

  • 输入形状[batch_size, seq_len, channels] 简写为 [b, s, c]

    • 例如 [16, 60, 7]:16个样本,每个60个时间步,每个时间步7个特征
  • 输出形状[batch_size, channels, seq_len] 即 [b, c, s]

    • 变为 [16, 7, 60]:16个样本,7个特征通道,每个通道60个时间步
  • 变换目的

    1. 将特征/通道维度提到第二维,便于后续按通道处理数据
    2. 为分段操作做准备,让时间维度在最后,便于后续分段处理
    3. 符合许多深度学习库的惯例,如卷积操作通常期望通道在第二维

 更具体的例子:16 个批次,60 个时间步,每个时间步 7 个特征

全局标准化

 

 


http://www.ppmy.cn/ops/163582.html

相关文章

网络安全rt是什么意思

1.什么时EDR :完全不同以往的端点被防护思路,而是通过云端威胁情报,机器学习,异常行为分析,攻击指示器等方式,主动发现来自外部或内部的安全威胁 。并进行自动化的阻止,取证,补救和溯源从而有效…

基于javaweb的SSM+Maven高考志愿智能资讯系统设计和实现(源码+文档+部署讲解)

技术范围:SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、安卓app、大数据、物联网、机器学习等设计与开发。 主要内容:免费功能设计、开题报告、任务书、中期检查PPT、系统功能实现、代码编写、论文编写和辅导、论…

基于微信小程序的心理健康恢复系统+LW示例参考

系列文章目录 1.基于SSM的洗衣房管理系统原生微信小程序LW参考示例 2.基于SpringBoot的宠物摄影网站管理系统LW参考示例 3.基于SpringBootVue的企业人事管理系统LW参考示例 4.基于SSM的高校实验室管理系统LW参考示例 5.基于SpringBoot的二手数码回收系统原生微信小程序LW参考示…

Ubuntu20.04双系统安装及软件安装(五):VSCode

Ubuntu20.04双系统安装及软件安装(五):VSCode 打开VScode官网,点击中间左侧的deb文件下载: 系统会弹出下载框,确定即可。 在文件夹的**“下载”目录**,可看到下载的安装包,在该目录下…

第六节:基于Winform框架的串口助手小项目---收发数据《C#编程》

1.目标:实现数据的收发 2.代码演示 根据控件编程 (1)接收配置 自动清空 private void autoclear_chb_CheckedChanged(object sender, EventArgs e) {if (autoclear_chb.Checked){timer1.Start();}else{timer1.Stop();} } 手动清空 privat…

【每日学点HarmonyOS Next知识】web网络拦截、对话框、网页重定向、数据作用域、多线程

【每日学点HarmonyOS Next知识】web网络拦截、对话框、网页重定向、数据作用域、多线程 1、HarmonyOS 在web网络拦截情况下,在网络失败情况下,web组件的onErrorReceive和onHttpErrorReceive均未回调? 在网络拦截情况下,在网络失…

【AI深度学习基础】Pandas完全指南终极篇:构建企业级数据工程与AI应用 (含完整代码)

📚 Pandas 系列文章导航 入门篇 🌱进阶篇 🚀终极篇 🌌 🌌 前言 通过前两篇的学习,我们已掌握 Pandas 的核心操作与高阶技巧。本篇将突破工具边界,探索 生产级数据工程架构设计、亿级数据处理方…

GradientDrawable自定义视图设计

简介 GradientDrawable用于定义具有渐变颜色的图形。作为 Drawable 的一种,GradientDrawable 可以用来设置视图(如 View、Button、TextView 的背景)的形状、大小、颜色以及边框等属性。它的灵活性使得开发者能够在不依赖外部图片资源的情况下…