【机器学习基础】全连接层

server/2024/10/21 18:37:34/

1. 定义:

  • 每一个节点都跟其后面所有的神经元相连
  • 两层之间所有神经元都有权重连接,通常全连接层在卷积神经网络尾部
  • 也就是跟传统的神经网络神经元的连接方式是一样的
    在这里插入图片描述

2. 作用:

  • 全连接层(fully connected layers,FC)在整个卷积神经网络中起到“分类器”的作用。
  • 如果说卷积层、池化层和激活函数层等操作是将原始数据映射到隐层特征空间的话,全连接层则起到将学到的“分布式特征表示”映射到样本标记空间(样本输出空间)的作用。
  • 简单来说:它把特征值整合到一起,输出为一个值。
  • 这样做的好处:就是大大减少特征位置对分类带来的影响。

3. 应用举例:

在这里插入图片描述

  • 从上图我们可以看出,猫在不同的位置,输出的feature值相同,但是位置不同。

  • 对于电脑来说,特征值相同,但是特征值位置不同,那分类结果也可能不一样。

  • 这时全连接层filter的作用就相当于
    猫在哪我不管,只要找到猫就可以,于是让全连接层filter去把这个猫找到,实际就是把feature map 整合成一个值。
    这个值大,有猫,这个值小,那就可能没猫,和这个喵在哪关系不大了,鲁棒性有大大增强。

  • 因为空间结构特性被忽略了,所以全连接层不适合用于在方位上找Pattern的任务,比如segmentation。

  • 全连接层中一层的一个神经元就可以看成一个多项式(类似加权平均),我们用许多神经元去拟合数据分布

  • 但只用一层fully connected layer 有时候没法解决非线性问题,而如果有两层或以上fully connected layer就可以很好地解决非线性问题了

4. 其它理解

  • 通过特征提取,实现分类,我们现在的任务是去区别一图片是不是猫
    在这里插入图片描述

  • 假设这个神经网络模型已经训练完了,全连接层已经知道
    在这里插入图片描述

  • 当我们得到以上特征,我就可以判断这个是猫。因为全连接层的作用主要就是实现分类(Classification)
    在这里插入图片描述

  • 同一层的其他神经元,要么猫的特征不明显,要么没找到
    当我们把这些找到的特征组合在一起,发现最符合要求的是猫
    ok,我认为这是猫了

  • 这细节特征又是怎么来的?
    就是从前面的卷积层,下采样层来的

5. 其它

  • 全连接


http://www.ppmy.cn/server/133693.html

相关文章

IP- guard产品版本升级指引详解

一、IP-guard服务器升级步骤 1、下载升级包(IPgUpgrade版本号.zip) 到IP-guard服务器 2、解压升级包,右键以管理员身份运行 (1)“升级包”解压 (2)右键以管理员身份运行“升级包” ࿰

第十五届蓝桥杯Java大学b组(解)

1.报数游戏 思路: 第1-10个: 20 24 40 48 60 72 80 96 100 120 第11-20个:140 144 160 168 180 192 200 216 220 240 第21-30个:260 264 280 288 300 312 320 336 340 360 第31-40个:380 384 400 408 420 432 440 …

Spring Boot实现的电影评论系统开发

1系统概述 1.1 研究背景 随着计算机技术的发展以及计算机网络的逐渐普及,互联网成为人们查找信息的重要场所,二十一世纪是信息的时代,所以信息的管理显得特别重要。因此,使用计算机来管理电影评论网站的相关信息成为必然。开发合适…

深度解析 Redis 存储结构及其高效性背后的机制

目录 1. Redis 存储结构存储结构存储转换 2. 字典实现数据结构冲突处理负载因子 3. 扩容扩容步骤影响与优化 4. 缩容缩容步骤优化策略 5. 渐进式 Rehash**渐进式 Rehash 的工作原理**Rehash 规则优势 6. SCAN 命令SCAN 的实现原理遍历顺序避免重复和遗漏使用场景 7. 过期&#…

实战RAG第一天——llama_index向量索引,查询引擎,搜索知识库问答,全部代码,保姆级教学

一、llama_index简介 llama_index(以前称为 GPT Index)是一个用于构建、查询、索引大型文档和数据集的开源框架。它的核心功能是帮助开发者将大语言模型(LLM)与自己的数据集无缝集成,从而进行知识库的构建、查询等任务。llama_index 使用 Python 编写,并结合了多种大语言…

Github学生包的JetBrains认证过期/idea认证过期如何解决?

官网通过Github更新状态即可JetBrains Account 注意要到邮箱走流程

Oracle+11g+笔记(7)-数据库空间管理

Oracle11g笔记(7)-数据库空间管理 7、数据库空间管理 存储空间是数据库系统中非常重要的资源,无论是数据库中的对象还是数据库中的数据都需要空间进行存储,一旦 数据库空间被全部占用,那么该数据库系统就不能再接受任何对象和数据&#xf…

运维怎么转行网络安全?

经常有人问我:干网工、干运维多年遇瓶颈,想学点新技术给自己涨涨“身价”,应该怎么选择? 聪明人早已经用脚投票:近年来,越来越多运维的朋友寻找新的职业发展机会,将目光聚焦到了网络安全产业。…