【人工智能】深入理解PyTorch：从0开始完整教程！全文注解

ops/2024/11/25 0:48:07/

在当今人工智能和深度学习的浪潮中，PyTorch作为一个灵活且强大的深度学习框架，正受到越来越多开发者和研究者的青睐。无论你是初学者还是经验丰富的开发者，这篇文章将带你深入理解PyTorch，从基础概念到高级应用，帮助你在深度学习的道路上更进一步。🌟

为什么选择PyTorch？🤔

在众多深度学习框架中，PyTorch以其动态计算图、简洁的API和强大的社区支持脱颖而出。以下是选择PyTorch的一些理由：

  1. 动态计算图：PyTorch的动态计算图使得调试和开发更加直观和灵活。
  2. 简洁的API：PyTorch的API设计简洁明了，易于上手。
  3. 与Python无缝集成：PyTorch与Python紧密结合，适合快速原型开发。

文章价值展示 🎯

在这篇文章中，你将学到：

  • PyTorch的基本概念和安装方法
  • 如何使用PyTorch进行数据处理和模型构建
  • 深入理解PyTorch的自动微分机制
  • 使用PyTorch进行模型训练和评估
  • 高级应用：迁移学习和自定义模型

在这里插入图片描述

PyTorch与Python的关系

‌PyTorch是一个基于Python的深度学习库，它充分利用了Python的灵活性和易用性，为开发者提供了简洁而强大的接口。‌ PyTorch的API设计遵循Python的语法规则，使得Python开发者可以快速上手。PyTorch与Python一样，都是动态类型语言，可以在运行时确定变量的类型，并且支持函数式编程范式，可以使用Python的函数和高阶函数进行操作。‌

在库层面，PyTorch的底层数据结构基于NumPy，这使得PyTorch可以与NumPy无缝集成，同时也支持与SciPy、Pandas和Matplotlib等库一起使用，进行科学计算、数据分析和数据可视化。

在应用层面，PyTorch和Python主要用于深度学习领域，例如图像识别和自然语言处理。使用PyTorch和Python，可以开发卷积神经网络（CNN）进行图像识别，以及开发循环神经网络（RNN）和Transformer进行自然语言处理。

体验最新GPT系列模型、支持自定义助手、文件上传：ChatMoss & ChatGPT中文版

PyTorch基础概念

什么是PyTorch？

PyTorch是一个开源的深度学习框架，由Facebook的AI研究团队开发。它提供了灵活的工具来构建和训练神经网络模型，广泛应用于计算机视觉、自然语言处理等领域。

PyTorch的安装

在开始使用PyTorch之前，你需要先安装它。安装PyTorch非常简单，你可以通过以下命令在你的Python环境中安装：

pip install torch torchvision

确保你的Python版本在3.6以上，并且已经安装了pip工具。

PyTorch的基本数据结构：Tensor

Tensor是PyTorch的核心数据结构，类似于NumPy的ndarray，但增加了在GPU上加速计算的能力。以下是创建一个简单Tensor的示例：

python">import torch# 创建一个1维Tensor
x = torch.tensor([1.0, 2.0, 3.0])
print(x)

Tensor的基本操作

PyTorch提供了丰富的Tensor操作，包括数学运算、索引、切片等。以下是一些常用的Tensor操作：

python"># 创建两个Tensor
a = torch.tensor([1.0, 2.0, 3.0])
b = torch.tensor([4.0, 5.0, 6.0])# 加法
c = a + b
print(c)# 矩阵乘法
d = torch.matmul(a.view(1, 3), b.view(3, 1))
print(d)

数据处理与模型构建

数据加载与预处理

在深度学习中，数据是模型训练的基础。PyTorch提供了torchvision库，方便我们加载和预处理常见的数据集。

python">from torchvision import datasets, transforms# 定义数据预处理步骤
transform = transforms.Compose([# 将图像转换为Tensor格式，适合PyTorch处理transforms.ToTensor(),# 对图像进行归一化处理，均值和标准差均为0.5transforms.Normalize((0.5,), (0.5,))
])# 加载MNIST数据集
train_dataset = datasets.MNIST(root='./data', train=True, transform=transform, download=True)
# 创建数据加载器，批量大小为64，打乱数据顺序
train_loader = torch.utils.data.DataLoader(dataset=train_dataset, batch_size=64, shuffle=True)

构建神经网络模型

PyTorch提供了torch.nn模块，帮助我们快速构建神经网络模型。以下是一个简单的全连接神经网络示例：

python">import torch.nn as nn# 定义一个简单的神经网络类，继承自nn.Module
class SimpleNN(nn.Module):def __init__(self):# 调用父类构造函数super(SimpleNN, self).__init__()# 定义第一个全连接层，将输入的784维（28*28）映射到128维self.fc1 = nn.Linear(28*28, 128)# 定义第二个全连接层，将128维映射到10维（对应10个类别）self.fc2 = nn.Linear(128, 10)def forward(self, x):# 将输入张量展平为一维，-1表示自动计算该维度的大小x = x.view(-1, 28*28)# 通过第一个全连接层并应用ReLU激活函数x = torch.relu(self.fc1(x))# 通过第二个全连接层，输出未经过激活的logitsx = self.fc2(x)return x# 实例化模型
model = SimpleNN()

自动微分与优化

自动微分机制

PyTorch的自动微分机制是其强大的特性之一。通过autograd模块，PyTorch可以自动计算梯度，简化了反向传播的实现。

python"># 创建一个Tensor并启用梯度计算
x = torch.tensor([2.0, 3.0], requires_grad=True)# 定义一个简单的函数
y = x[0]**2 + x[1]**3# 计算梯度
y.backward()# 查看梯度
print(x.grad)

优化器的使用

PyTorch提供了多种优化器，帮助我们更高效地训练模型。以下是使用SGD优化器的示例：

python">import torch.optim as optim# 定义损失函数为交叉熵损失，适用于多分类问题
criterion = nn.CrossEntropyLoss()
# 定义优化器为随机梯度下降（SGD），学习率设置为0.01
optimizer = optim.SGD(model.parameters(), lr=0.01)# 训练循环，进行10个训练轮次
for epoch in range(10):# 遍历训练数据加载器中的每个批次for images, labels in train_loader:# 前向传播：将输入图像传入模型，获取输出outputs = model(images)# 计算损失：将模型输出与真实标签进行比较loss = criterion(outputs, labels)# 反向传播和优化# 清空之前的梯度optimizer.zero_grad()# 计算当前损失的梯度loss.backward()# 更新模型参数optimizer.step()# 打印当前轮次的损失值print(f'Epoch [{epoch+1}/10], Loss: {loss.item():.4f}')

模型训练与评估

模型训练

在模型训练过程中，我们需要不断调整模型参数，使得损失函数最小化。PyTorch的灵活性使得这一过程变得简单。

python"># 定义训练函数
def train(model, train_loader, criterion, optimizer, num_epochs):# 将模型设置为训练模式，启用dropout等训练时特性model.train()# 遍历指定的训练轮数for epoch in range(num_epochs):# 遍历训练数据加载器中的每个批次for images, labels in train_loader:# 将输入图像传入模型，获取输出outputs = model(images)# 计算损失，criterion是损失函数loss = criterion(outputs, labels)# 清空之前的梯度optimizer.zero_grad()# 反向传播，计算当前损失的梯度loss.backward()# 更新模型参数optimizer.step()# 打印当前轮次的损失值print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}')# 调用训练函数，传入模型、训练数据加载器、损失函数、优化器和训练轮数
train(model, train_loader, criterion, optimizer, num_epochs=10)

模型评估

在训练完成后，我们需要评估模型的性能。通常，我们会在验证集或测试集上评估模型的准确性。

python"># 定义评估函数
def evaluate(model, test_loader):# 将模型设置为评估模式，禁用dropout等训练时特性model.eval()# 初始化正确预测的数量和总样本数量correct = 0total = 0# 在不计算梯度的上下文中进行评估，以节省内存和计算资源with torch.no_grad():# 遍历测试数据加载器中的每个批次for images, labels in test_loader:# 将输入图像传入模型，获取输出outputs = model(images)# 获取每个样本的预测类别，torch.max返回最大值及其索引_, predicted = torch.max(outputs.data, 1)# 更新总样本数量total += labels.size(0)# 更新正确预测的数量correct += (predicted == labels).sum().item()# 打印模型在测试集上的准确率print(f'Accuracy: {100 * correct / total:.2f}%')# 加载测试数据集，使用MNIST数据集，设置为不训练模式
test_dataset = datasets.MNIST(root='./data', train=False, transform=transform)
# 创建数据加载器，批量大小为64，不打乱顺序
test_loader = torch.utils.data.DataLoader(dataset=test_dataset, batch_size=64, shuffle=False)# 调用评估函数，传入模型和测试数据加载器
evaluate(model, test_loader)

高级应用：迁移学习与自定义模型

迁移学习

迁移学习是一种在预训练模型的基础上进行微调的方法，适用于数据量较少的任务。PyTorch提供了丰富的预训练模型，方便我们进行迁移学习。

体验最新GPT系列模型、支持自定义助手、文件上传：ChatMoss & ChatGPT中文版

python">from torchvision import models
import torch.nn as nn
import torch.optim as optim# 加载预训练的ResNet模型（ResNet-18）
resnet = models.resnet18(pretrained=True)# 冻结所有层的参数，使其在训练过程中不更新
for param in resnet.parameters():param.requires_grad = False# 替换最后一层全连接层，以适应新的分类任务
# resnet.fc.in_features获取原全连接层的输入特征数量
resnet.fc = nn.Linear(resnet.fc.in_features, 10)# 定义优化器，只优化新的全连接层参数
optimizer = optim.SGD(resnet.fc.parameters(), lr=0.01)

自定义模型

在某些情况下，我们可能需要构建自定义模型以满足特定需求。PyTorch的模块化设计使得自定义模型变得简单。

python">import torch
import torch.nn as nn# 定义自定义模型类，继承自nn.Module
class CustomModel(nn.Module):def __init__(self):# 调用父类构造函数super(CustomModel, self).__init__()# 定义第一个卷积层，输入通道为1（灰度图像），输出通道为32，卷积核大小为3self.conv1 = nn.Conv2d(1, 32, kernel_size=3)# 定义第二个卷积层，输入通道为32，输出通道为64，卷积核大小为3self.conv2 = nn.Conv2d(32, 64, kernel_size=3)# 定义第一个全连接层，输入特征为64*12*12，输出特征为128self.fc1 = nn.Linear(64*12*12, 128)# 定义第二个全连接层，输入特征为128，输出特征为10（对应10个类别）self.fc2 = nn.Linear(128, 10)def forward(self, x):# 前向传播：通过第一个卷积层并应用ReLU激活函数x = torch.relu(self.conv1(x))# 通过第二个卷积层并应用ReLU激活函数x = torch.relu(self.conv2(x))# 将特征图展平为一维张量，准备输入全连接层x = x.view(-1, 64*12*12)# 通过第一个全连接层并应用ReLU激活函数x = torch.relu(self.fc1(x))# 通过第二个全连接层，输出未经过激活的logitsx = self.fc2(x)return x# 实例化自定义模型
custom_model = CustomModel()

更多提效文章

【IDER、PyCharm】免费AI编程工具完整教程：ChatGPT Free - Support Key call AI GPT-o1 Claude3.5

【OpenAI】获取OpenAI API KEY的两种方式，开发者必看全方面教程！

【Cursor】揭秘Cursor：如何免费无限使用这款AI编程神器？

结尾

通过这篇文章，我们从基础概念到高级应用，全面介绍了PyTorch的使用方法。希望这篇教程能帮助你更好地理解和应用PyTorch，在深度学习的道路上走得更远。无论是进行学术研究还是开发实际应用，PyTorch都将是你不可或缺的工具。


http://www.ppmy.cn/ops/136436.html

相关文章

ESP8266 AP模式TCP服务器 电脑手机网络调试助手

ESP8266 AP模式TCP服务器 电脑手机网络调试助手

AP模式TCP服务器和手机电脑网络调试助手多连接
阅读更多...
深信服技术服务工程师（网络安全、云计算方向）面试题

深信服技术服务工程师（网络安全、云计算方向）面试题

1.tcp3次握手和四次挥手的过程。 2.简述ospf动态路由。 3.哪些地方用静态路由，哪些地方用动态路由，说说他们的区别 4.在数据包在二层交换机中是如何转发的 5.两个三层交换机如何进行通信 6.trunk和access模式区别 7.对http协议的了解（https&a…
阅读更多...
全新三网话费余额查询API系统源码 Thinkphp全开源 附教程

全新三网话费余额查询API系统源码 Thinkphp全开源 附教程

全新三网话费余额查询API系统源码 thinkphp全开源 附教程 本套系统是用thinkphp6.0框架开发的，PHP版本需8.1以上，可查询手机号话费余额、归属地和运营商等信息，系统支持用户中心在线查询和通过API接口对接发起查询，用户余额充值是对接usdt接口或者通过后台生成卡密，源码全…
阅读更多...
muduo库的使用

muduo库的使用

muduo库的使用 1. 下载安装mudu库2. muduo库的原理3. muduo库常见接口介绍3.1 TcpServer类基础介绍3.2 EventLoop类基础介绍3.3TcpConnection类基础介绍3.4 Buffer类基础介绍3.5 TcpClient类基础介绍 4. 示例加深理解4.1 服务端4.2 客户端4.3 Makefile编写 1. 下载安装mudu库 …
阅读更多...
Docker 实践与应用举例：提升开发与运维效率的利器

Docker 实践与应用举例：提升开发与运维效率的利器

Docker 是一个开源的容器化平台，用于自动化部署、扩展和管理应用程序。它通过将应用及其依赖打包成容器，能够使得开发、测试、部署和生产环境中的应用一致性得以保证。在本文中，我们将深入探讨 Docker 的基础知识、安装与配置，结合实际案例展示 Docker 在开发和运维中的强大…
阅读更多...
LVM缩容

LVM缩容

当前环境 rootjmk:~/shell# lsblk NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINTS nvme0n1 259:0 0 953.9G 0 disk |-nvme0n1p1 259:1 0 512M 0 part /boot/efi |-nvme0n1p2 259:2 0 488M 0 part /boot -nvme0n1p3 …
阅读更多...
Linux空口抓包方法

Linux空口抓包方法

环境准备 首先，我们需要安装必要的软件工具。以下是安装aircrack-ng和wireshark的步骤： sudo apt-get install aircrack-ngsudo add-apt-repository ppa:wireshark-dev/stable sudo apt update sudo apt install -y wireshark环境清理 在开始抓包之前…
阅读更多...
vue el-table表格点击某行触发事件操作栏点击和row-click冲突问题

vue el-table表格点击某行触发事件操作栏点击和row-click冲突问题

文章为本新手菜鸡的问题记录，如有错误和不足还请大佬指正 文章目录 前言一、点击el-table表格某行，触发事件二、解决el-table的操作栏点击和row-click冲突问题1.问题：2.解决方法 前言 文章主要解决两个问题： 1、点击el-table表格…
阅读更多...
最新文章

Copyright @ 2022~2023