PyTorch | Geeks_Z の Blog

PyTorch: 本系列教程主要参考自《PyTorch 学习笔记》

目录

# 1. PyTorch概述: 1-1. PyTorch的概述

# 2. Tensors: 2-1. Tensors 2-2. 自动求导 2-3. AI硬件加速设备 2-4. tensor类型转换 2-5. tensor维度转换 2-6. 常见函数 2-7. tensor可视化为图片

# 3. 数据处理: 3-1. DataLoader 与 DataSet 3-2. torchvision.transforms 3-3. torch.utils.data

# 4. 模型: 4-1. 模型构建 4-2. 模型容器 4-3. 模型参数 4-4. 权值初始化 4-5. 模型保存与加载 4-6. 模型修改 4-7. 模型优化 4-8. nn.Module 4-9. 模型示例

# 5. 训练: 5-1. 基本配置 5-2. 损失函数 5-3. 优化器 5-4. PyTorch计算图

# 6. 并行计算: 6-1. 并行计算简介 6-2. DP 6-3. DDP 6-4. DP 与 DDP 的优缺点 6-5. multiprocessing 6-6. Apex 6-7. Horovod 6-8. GPU集群上的分布式 6-9. 分布式evaluation 6-10. DDP启动 6-11. References

# 7. 可视化: 7-1. 可视化网络结构 7-2. CNN卷积层可视化 7-3. TensorBoard 7-4. 使用wandb可视化训练过程 7-5. wandb相关参数解释

# 8. 实战: 8-1. ResNet源码解读 8-2. RNN详解及其实现 8-3. LSTM解读及实战 8-4. Transformer 解读 8-5. Swin-Transformer解读 8-6. ViT解读

# 9. timm: 9-1. timm概述 9-2. timm使用教程 9-3. timm代码解读 9-4. timm-vit代码解读 9-5. create_model解读

# 10. Pytorch Lightning: 10-1. 概述 10-2. 记录训练loss 10-3. Pytorch_Lightning

# 11. 数据增强: 11-1. 数据增强 11-2. 基础数据增强 11-3. 高级数据增强 11-4. 自监督学习增强 11-5. imgaug

# 12. 面经与bug解决: 12-1. model 12-2. Pytorch中的多个loss和的梯度回传 12-3. DDP

# 13. 常用代码片段: 13-1. 参数相关 13-2. 数据相关 13-3. 模型相关 13-4. 分类相关 13-5. 注意事项 13-6. CosineLinear

14. Reference

上次更新: 2025/04/02, 12:03:38

← TokenFormer CL→

01
Recent Advances of Multimodal Continual Learning A Comprehensive Survey 03-30

02
When Continue Learning Meets Multimodal Large Language Model A Survey 03-30

03
CosineLinear 03-30

更多文章>