深度学习:卷积神经网络CNN

server/2024/9/23 23:10:50/

目录

一、什么是卷积?

二、卷积神经网络的组成

1. 卷积层

2. 池化层

3. 激活函数

4. 全连接层

三、卷积神经网络的构造

四、代码实现

1.数据预处理

2.创建卷积神经网络

3.创建训练集和测试集函数

4.创建损失函数和优化器并进行训练


一、什么是卷积?

        对图像(不同的数据窗口数据)和卷积核(一组固定的权重:因为每个神经元的多个权重固定,所以又可以看做一个恒定的滤波器filter)做内积(逐个元素相乘再求和)的操作就是所谓的『卷积』操作,也是卷积神经网络的名字来源。

 

二、卷积神经网络的组成

1. 卷积层

  • 功能:通过卷积操作提取特征。卷积核(滤波器)在输入图像上滑动,计算局部区域的加权和,生成特征图
  • 参数:卷积核的大小(如3x3、5x5)、步幅(每次滑动的像素数)和填充(为避免信息损失,通常在图像边缘添加零)。

 

2. 池化层

  • 功能:降低特征图的空间维度,减少计算量和参数数量,防止过拟合
  • 类型
    • 最大池化:在每个窗口中取最大值。
    • 平均池化:在每个窗口中取平均值。
  • 参数:池化窗口的大小和步幅。

 

3. 激活函数

  • 功能:引入非线性,帮助模型捕捉复杂的模式。
  • 常用类型
    • ReLU(修正线性单元):输出为输入的正部分,负部分输出为0。
    • Sigmoid:将输出限制在0到1之间,适用于二分类问题。
    • Softmax:将输出转化为概率分布,适用于多分类问题。

 

4. 全连接层

  • 功能:将卷积层和池化层提取的特征进行整合,用于最终的分类或回归。
  • 结构:每个神经元与前一层的所有神经元相连接。

 

三、卷积神经网络的构造

  • 输入层--卷积层--池化层--全连接层--输出层

 

四、代码实现

1.数据预处理

  • 从本地读取图片数据并打包
  • 将其裁剪成256*256大小并转换成tensor类型数据
  • 将对应图片标签也转换成tensor类型数据
import torch
import numpy as np
from torch.utils.data import DataLoader, Dataset  # 数据包管理工具,打包数据,
from torchvision import transforms
from PIL import Imageclass food_dataset(Dataset):def __init__(self, file_path, transform=None):  # 类的初始化,解析数据文件txtself.file_path = file_pathself.imgs = []self.labels = []self.transform = transformwith open(self.file_path) as f:  # 是把train.txt文件中图片的路径保存在 self.imgs,train.txt文件中标签保存在self.label里samples = [x.strip().split(' ') for x in f.readlines()]  # 去掉首尾空格 再按空格分成两个元素for img_path, label in samples:self.imgs.append(img_path)  # 图像的路径self.labels.append(label)  # 标签,还不是tensor# 初始化:把图片目录加载到selfdef __len__(self):  # 类实例化对象后,可以使用len函数测量对象的个数return len(self.imgs)def __getitem__(self, idx):  # 关键,可通过索引的形式获取每一个图片数据及标签image = Image.open(self.imgs[idx])  # 读取到图片数据,还不是tensorif self.transform:# 将pil图像数据转换为tensorimage = self.transform(image)  # 图像处理为256x256,转换为tenorlabel = self.labels[idx]  # label还不是tensorlabel = torch.from_numpy(np.array(label, dtype=np.int64))  # label也转换为tensorreturn image, labeldata_transforms = {'train':transforms.Compose([transforms.Resize([256, 256]),transforms.ToTensor()]),'test':transforms.Compose([transforms.Resize([256, 256]),transforms.ToTensor()])
}train_data = food_dataset(file_path=r'.\train.txt', transform=data_transforms['train'])   # 64张图片为一个包  训练集60000张图片 打包成了938个包
test_data = food_dataset(file_path=r'.\test.txt', transform=data_transforms['test'])train_dataloader = DataLoader(train_data, batch_size=64, shuffle=True)
test_dataloader = DataLoader(test_data, batch_size=64, shuffle=True)for x, y in test_dataloader:print(f"shape of x [N ,C,H,W]:{x.shape}")print(f"shape of y :{y.shape} {y.dtype}")break

 

2.创建卷积神经网络

from torch import nn  # 导入神经网络模块class CNN(nn.Module):  # Convolutional Neural Networkdef __init__(self):super(CNN, self).__init__()self.conv1 = nn.Sequential(  # 将多个层组合成一起。nn.Conv2d(  # 2d一般用于图像,3d用于视频数据(多一个时间维度),1d一般用于结构化的序列数据in_channels=3,  # 图像通道个数,1表示灰度图(确定了卷积核 组中的个数),out_channels=16,  # 要得到几多少个特征图,卷积核的个数kernel_size=5,  # 卷积核大小,5*5stride=1,  # 步长padding=2  # 一般希望卷积核处理后的结果大小与处理前的数据大小相同,效果会比较好。那pading改如何设计呢?建议stride为1),nn.ReLU(),  # relu层,不会改变特征图的大小nn.MaxPool2d(kernel_size=2),  # 进行池化操作(2x2 区域)  最大值池化)self.conv2 = nn.Sequential(  # 但整个 nn.Sequential 可以视为一个卷积模块nn.Conv2d(16, 32, 5, 1, 2),nn.ReLU(),nn.Conv2d(32, 32, 5, 1, 2),nn.ReLU(),nn.MaxPool2d(2))self.conv3 = nn.Sequential(nn.Conv2d(32, 128, 5, 1, 2),nn.ReLU())self.out = nn.Linear(128 * 64 * 64, 20)  # 全连接层得到的结果def forward(self, x):x = self.conv1(x)x = self.conv2(x)x = self.conv3(x)x = x.view(x.size(0), -1)output = self.out(x)return outputdevice = 'cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_avaibale() else 'cpu'model = CNN().to(device)  # 把刚刚创建的模型传入到GPU
print(model)

输出:

  • 可以看到该卷积神经网络有三个卷积模块
  • 最后通过全连接层输出预测结果
CNN((conv1): Sequential((0): Conv2d(3, 16, kernel_size=(5, 5), stride=(1, 1), padding=(2, 2))(1): ReLU()(2): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False))(conv2): Sequential((0): Conv2d(16, 32, kernel_size=(5, 5), stride=(1, 1), padding=(2, 2))(1): ReLU()(2): Conv2d(32, 32, kernel_size=(5, 5), stride=(1, 1), padding=(2, 2))(3): ReLU()(4): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False))(conv3): Sequential((0): Conv2d(32, 128, kernel_size=(5, 5), stride=(1, 1), padding=(2, 2))(1): ReLU())(out): Linear(in_features=524288, out_features=20, bias=True)
)

 

3.创建训练集和测试集函数

def train(dataloader, model, loss_fn, optimizer):model.train()  # 告诉模型,我要开始训练,模型中w进行随机化操作,已经更新w.在训练过程中,w会被修改的# pytorch提供2种方式来切换训练和测试的模式,分别是:model.train()和 model.eval().# 一般用法是: 在训练开始之前写上model.trian(),在测试时写上model.eval().batch_size_num = 1for x, y in dataloader:  #x, y = x.to(device), y.to(device)  # 把训练数据集和标签传入CPU或GPUpred = model.forward(x)  # 向前传播loss = loss_fn(pred, y)  # 通过交叉熵损失函数计算损失值lossoptimizer.zero_grad()  # 梯度值清零loss.backward()  # 反向传播计算得到每个参数的梯度值woptimizer.step()  # 根据梯度更新网络w参数loss_value = loss.item()  # 从tensor数据中提取数据出来,tensor获取损失值if batch_size_num % 2 == 0:print(f"loss:{loss_value:>7f} [number:{batch_size_num}]")batch_size_num += 1def test(dataloader, model, loss_fn):size = len(dataloader.dataset)num_batches = len(dataloader)model.eval()  # 测试,w就不能再更新。test_loss, correct = 0, 0with torch.no_grad():  # 一个上下文管理器,关闭梯度计算。当你确认不会调用Tensor.backward()的时候。这可以减少计算所占用的消耗for x, y in dataloader:x, y = x.to(device), y.to(device)pred = model.forward(x)test_loss += loss_fn(pred, y).item()  # test loss是会自动累加每一个批次的损失值correct += (pred.argmax(1) == y).type(torch.float).sum().item()a = (pred.argmax(1) == y)  # dim=1表示每一行中的最大值对应的索引号,dim=0表示每一列中的最大值对应的索引号b = (pred.argmax(1) == y).type(torch.float)test_loss /= num_batches  # 能来衡量模型测试的好坏。correct /= size  # 平均的正确率print(f"Test result: \n Accuracy: {(100 * correct)}%, Avg loss: {test_loss}")

 

4.创建损失函数和优化器并进行训练

  • 创建处理多分类的损失函数
  • 使用Adam优化器
loss_fn = nn.CrossEntropyLoss()  # 处理多分类
optimizer = torch.optim.Adam(model.parameters(), lr=0.0002)epochs = 20  # 到底选择多少呢?
for t in range(epochs):print(f"Epoch {t + 1}\n--------------")train(train_dataloader, model, loss_fn, optimizer)
print("Done!")
test(test_dataloader, model, loss_fn)

输出:

Epoch 20
--------------
loss:0.002920 [number:2]
loss:0.003376 [number:4]
Done!
Test result: Accuracy: 41.02564102564102%, Avg loss: 5.77920389175415

http://www.ppmy.cn/server/121030.html

相关文章

【数字组合】

题目 思路 状态表示: f [ i ] [ j ] f[i][j] f[i][j] 对应考虑1到 i 号数字,和为 j 的方法,表示方法数 目标表示: f [ n ] [ m ] f[n][m] f[n][m] 状态转移: f [ i ] [ j ] f [ i − 1 ] [ j ] f [ i − 1 ] [ j …

OpenGL 着色器类的源码

编写、编译、管理着色器是件麻烦事。在着色器主题的最后,我们会写一个类来让我们的生活轻松一点,它可以从硬盘读取着色器,然后编译并链接它们,并对它们进行错误检测,这就变得很好用了。这也会让你了解该如何封装目前所…

Vue学习文档

文章目录 一、Vue 简介1、官网2、作者和版本3、定义4、特点5、Vue 的周边库二、Vue 安装使用1、CDN 引入2、下载后引入3、命令行工具 (CLI)三、入门案例四、MVVM模型1、MVVM 模型2、Vue 与 MVVM 模型五、Vue 基本使用1、文本插值(掌握)-text2、属性插值(掌握 )-bind3、Clas…

内存和管理

在 C 中,对象拷贝时编译器可能会进行一些优化,以提高程序的性能。 一种常见的优化是“返回值优化(Return Value Optimization,RVO)”和“具名返回值优化(Named Return Value Optimization,NRV…

大模型的实践应用30-大模型训练和推理中分布式核心技术的应用

大家好,我是微学AI,今天给大家介绍一下大模型的实践应用30-大模型训练和推理中分布式核心技术的应用。本文深入探讨了大模型训练和推理中分布式核心技术的应用。首先介绍了项目背景,阐述了大模型发展对高效技术的需求。接着详细讲解了分布式技术的原理,包括数据并行、模型并…

基于协同过滤+python+django+vue的音乐推荐系统

作者:计算机学姐 开发技术:SpringBoot、SSM、Vue、MySQL、JSP、ElementUI、Python、小程序等,“文末源码”。 专栏推荐:前后端分离项目源码、SpringBoot项目源码、SSM项目源码 系统展示 【2025最新】基于协同过滤pythondjangovue…

JS获取URL中的某个参数值

⭐️如果对你有用的话,希望可以点点赞,感谢了⭐️ function getUrlParam(key){var url decodeURI(window.location.href);var paramMap {};var paramStr url.split("?")[2];if (paramStr && paramStr ! "") {var param…

python CRC16校验

python openmv 串口 crc16校验 class byte:def __init__(self,word):self.word wordself.low self.word & 0xffself.high self.word >> 8auchCRCHi [0x00, 0xC1, 0x81, 0x40, 0x01, 0xC0, 0x80, 0x41, 0x01, 0xC0, 0x80, 0x41, 0x00, 0xC1, 0x81, 0x40,0x01, 0xC…