脉冲神经网络(SNN)论文阅读(六)-----ECCV-2024 脉冲驱动的SNN目标检测框架:SpikeYOLO

embedded/2024/10/10 22:21:31/

原文链接:CSDN-脉冲神经网络(SNN)论文阅读(六)-----ECCV-2024 脉冲驱动的SNN目标检测框架:SpikeYOLO

Integer-Valued Training and Spike-Driven Inference Spiking Neural Network for High-performance and Energy-efficient Object Detection

  • 目录
    • 论文信息
    • 主要贡献
    • SpikeYOLO
    • Integer Leaky Integrate-and-Fire (I-LIF) Spiking Neuron
    • 实验对比
      • 静态COCO 2017 Dataset 对比:
      • 神经形态Gen1 Automotive Detection Dataset对比:

目录

论文信息

论文标题:Integer-Valued Training and Spike-Driven Inference Spiking Neural Network for High-performance and Energy-efficient Object Detection
论文地址
code
由中科院自动化所(李国齐团队)研究人员发表于ECCV 2024 Oral。

主要贡献

  • 设计了SpikeYOLO architecture用于目标检测
  • 设计了新的脉冲神经元:I-LIF,训练时保持整数值通信推理时重参数化为低功耗的二元脉冲。
  • 在静态以及神经形态目标检测数据集上均取得了SOTA性能。
    在这里插入图片描述

SpikeYOLO

  • 宏观设计参考YOLOv8,微观设计参考作者团队之前提出的Meta-SpikeFormer[1]中的meta SNN block。
  • 设计了SNN-Block-1和SNN-Block-2,其他架构和YOLOv8保持一致。
  • SNN-Block-1:
    在这里插入图片描述
  • SNN-Block-2:
    在这里插入图片描述

Integer Leaky Integrate-and-Fire (I-LIF) Spiking Neuron

  • 脉冲神经元累积膜电势,当膜电势达到阈值时产生脉冲,从连续的膜电势到离散的脉冲信号会带来信息损失。
  • I-LIF神经元基于LIF神经元模型,在训练时产生模拟值输出,而在推理时转换为二元的脉冲,从而缓解信息损失提升性能。
  • 训练期间将膜电势round到最近的整数值,控制其输出范围位于[0,D]之间,D是超参数标识I-LIF可产生的最大值输出。使用矩形函数代理梯度计算梯度信息。
    在这里插入图片描述
  • 推理期间将原始的时间步长 T T T扩展至 T × D T \times D T×D,将本应位于[0,D]的输出在扩展后的时间步长内转换为每个时间步长内的二元脉冲输出。
    在这里插入图片描述

在这里插入图片描述

实验对比

静态COCO 2017 Dataset 对比:

在这里插入图片描述

神经形态Gen1 Automotive Detection Dataset对比:

在这里插入图片描述

更多详细信息请看原文。

参考文献:
[1] Spike-driven transformer v2: Meta spiking neural network architecture inspiring the design of next-generation neuromorphic chips. In ICLR. 2024.

本文由CSDN-lan人啊原创,转载请注明!


http://www.ppmy.cn/embedded/125570.html

相关文章

旅游管理智能化转型:SpringBoot系统设计与实现

第四章 系统设计 4.1系统结构设计 对于本系统的开发设计,先自上向下,将一个完整的系统分解成许多个小系统来进行实现;再自下向上,将所有的“零件”组装成一个大的、完整的系统。因此这里面的许多个小功能块都要对将要实现的功能进…

C++容器之list基本使用

目录 前言 一、list的介绍? 二、使用 1.list的构造 2.list iterator的使用 3.list capacity 🥇 empty 🥇size 4.list element access 🥇 front 🥇 back 5.list modifiers 🥇 push_front 🥇 po…

【2022工业3D异常检测文献】AST: 基于归一化流的双射性产生不对称学生-教师异常检测方法

Asymmetric Student-Teacher Networks for Industrial Anomaly Detection 1、Background 所谓的学生-教师网络,首先,对教师进行训练,以学习语义嵌入的辅助性训练任务;其次,训练学生以匹配教师的输出。主要目的是让学生…

学习文档三

超过 long 整型的数据应该如何表示? 基本数值类型都有一个表达范围,如果超过这个范围就会有数值溢出的风险。 在 Java 中,64 位 long 整型是最大的整数类型。 long l Long.MAX_VALUE; System.out.println(l 1); // -9223372036854775808 System.ou…

渐进蒸馏和v-prediction

渐进蒸馏和v-prediction TL;DR:比较早期的用蒸馏的思想来做扩散模型采样加速的方法,通过渐进地对预训练的扩散模型进行蒸馏,学生模型一步学习教师模型两步的去噪结果,不断降低采样步数。并提出一种新的参数化形式 v \mathbf{v} …

设计模式之原型模式(通俗易懂--代码辅助理解【Java版】)

文章目录 设计模式概述1、原型模式2、原型模式的使用场景3、优点4、缺点5、主要角色6、代码示例7、总结题外话关于使用序列化实现深拷贝 设计模式概述 创建型模式:工厂方法、抽象方法、建造者、原型、单例。 结构型模式有:适配器、桥接、组合、装饰器、…

kubelet 运行机制、功能 全面分析

Kubelet 在Kubernetes集群中,在每个Node(又称为Minion)上都会启动一个Kubelet服务进程。该进程用于处理Master下发到本节点的任务,管理Pod及Pod中的容器。每个Kubelet进程都会在API Server上注册节点自身的信息,定期向…

微信搜一搜又升级啦!

据“微信派”微信公号10月8日消息,微信搜一搜上线“搜索直达”功能,相关话题登上微博热搜。网友表示这个更新可以省去翻设置功能的步骤,更直接、快速地解决问题。 搜“拍一拍设置” 搜“深夜模式设置” 搜“来电铃声设置” 搜“关怀模式”设置…