PyTorch 教程    PyTorch Adam 优化器详细介绍
撰写于：  浏览：2997 次  分类：PyTorch 教程
提示：本文更新于2024年8月24日1、Adam优化器简介Adam 是一种可以替代传统随机梯度下降过程的一阶优化算法，它能基于训练数据迭代地更新神经网络权重。Adam 最开始是由 OpenAI 的 Diederik Kingma 和多伦多大学的 Jimmy Ba 在 2015 年 ICLR 论文（Adam: A Method for Stochas[...]
PyTorch 教程    Batch Normalization详细介绍
撰写于：  浏览：853 次  分类：PyTorch 教程
1、Batch Normalization简介Batch Normalization，简称BN，由Google于2015年提出，这是一个深度神经网络训练的技巧，它不仅可以加快了模型的收敛速度，并且在一定程度缓解了深层网络中“梯度弥散”的问题，从而使得训练深层网络模型更加容易和稳定，所以目前Batch Normalization已经成为几乎所有卷积神[...]
PyTorch 教程    梯度下降法
撰写于：  浏览：2947 次  分类：PyTorch 教程
1、梯度下降法简介梯度下降法（英语：Gradient descent）是一个一阶最优化算法，通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值，必须向函数上当前点对应梯度（或者是近似梯度）的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索，则会接近函数的局部极大值点；这个过程则被称为梯度上升法。2、梯度下降法原理[...]
PyTorch 教程    PyTorch评估模式model eval详细介绍
撰写于：  浏览：1111 次  分类：PyTorch 教程
1、model eval简介model.eval()是PyTorch中的一个方法，用于将模型设置为评估模式（evaluation mode）。一般情况下，当我们完成模型的训练并准备对其进行评估、测试或推断时，会调用该方法。2、model eval的作用调用model.eval()的作用是将模型中的某些特定层或部分切换到评估模式。在评估模式下，一些层[...]
PyTorch 教程    PyTorch计算图与链式求导
撰写于：  浏览：2752 次  分类：PyTorch 教程
1、PyTorch自动求导代码import torch input = torch.ones([2, 2], requires_grad=False) w1 = torch.tensor(2.0, requires_grad=True) w2 = torch.tensor(3.0, requires_grad=True) w3 = torch.t[...]
PyTorch 教程    PyTorch向量Tensor的维度理解
撰写于：  浏览：3092 次  分类：PyTorch 教程
1、维度与形状的区别当我们说一个向量的维度的时候，我们会说，这是一个1维度向量，2维向量，3维向量等等。在PyTorch中，计算维度是通过向量的形状获取的，如下代码所示：import torch input = torch.ones(3, 5) print(input) dim = len(input.shape) print(dim)2、维度[...]
PyTorch 教程    torch.stack()函数的使用详解
撰写于：  浏览：1059 次  分类：PyTorch 教程
1、torch.stack()函数的作用torch.stack()函数的参数形式为：torch.stack(inputs,dim=0,out=None)，其作用是将若干个形状相同的张量在dim维度上连接，生成一个扩维的张量。比如，我们原本有若干个2维张量，连接之后可以得到一个3维的张量。2、torch.stack()函数的参数说明(1)inputs[...]
PyTorch 教程    CUDA安装介绍
撰写于：  浏览：3964 次  分类：PyTorch 教程
CUDA是英伟达开发出的GPU计算框架。英伟达是制造GPU的公司，它为了让人们更好地使用自家生产出来的GPU，所以开发出CUDA用于操作GPU。如果没有CUDA，直接操作GPU则是一件非常困难的事情。我们买回的带英伟达GPU的新电脑，会自带GPU显卡驱动，显卡驱动的版本号制约着你将来要安装的CUDA。运行nvidia-smi命令，我们可以查看自己显[...]
PyTorch 教程    Adam优化器（理论、公式、代码）
撰写于：  浏览：675 次  分类：PyTorch 教程
这篇文章介绍的不错，分享给大家：https://blog.csdn.net/m0_48923489/article/details/136863726
PyTorch 教程    PyTorch 叶子节点和非叶子节点的理解
撰写于：  浏览：1144 次  分类：PyTorch 教程
1、什么是叶子节点PyTorch的最大特点是动态计算图，计算图是用来描述运算的有向无环图。计算图有两种主要元素：结点（Node）和边（Edge）。结点表示数据，例如张量，而边表示运算，例如加、减、乘、除、卷积等。对于节点而言，又分为叶子节点和非叶子节点。我们通常关注的叶子节点，那什么叶子节点呢？PyTorch中的张量tensor有一个属性是is_l[...]
PyTorch 教程    PyTorch 设置随机数 torch.manual_seed 详细介绍
撰写于：  浏览：921 次  分类：PyTorch 教程
1、PyTorch设置随机数的目的在神经网络中，参数默认是进行随机初始化的。不同的初始化参数往往会导致不同的结果。当得到比较好的结果时我们通常希望这个结果是可以复现的，在PyTorch中，通过设置全局随机数种子可以实现这个目的。2、PyTorch seed 设置方式seed = 0 torch.manual_seed(seed) [...]
飞燕AI训练营    飞燕AI训练营月度总结（2024年4月-5月）
撰写于：  浏览：854 次  分类：飞燕AI训练营
大家好，我是站长飞燕。AI训练营在过去的两个月时间里，吸纳了几十名新同学的加入，感谢大家的信任和支持！希望是本无所谓有，无所谓无的。这正如地上的路，其实地上本没有路，走的人多了，也便成了路。正是由于站长飞燕的不断坚持和探索，所以才能踏出一条新路。我记得自己当年在毕业季找工作的时候，屡屡受挫，那个时候十分后悔，后悔自己没有提前花钱报个辅导班，以至很多[...]
飞燕AI训练营    AI公开课：YOLO相关技术公开课
撰写于：  浏览：1124 次  分类：飞燕AI训练营
本次公开课通过腾讯会议的形式召开，仅仅面向AI训练营的各位同学，具体安排如下所示。公开课时间：2024年4月19日（星期五），晚上20点到21点。公开课内容：YOLO相关技术的分享与讨论提醒：如果大家因故不能参加，没有关系。本月的学习重心是YOLO，意味着你有一个月的时间来钻研它，所以一次缺席不会有太大问题。另外，公开课没有录播，因为讲的比较散，学[...]
PyTorch 教程    PyTorch最新版本是多少？
撰写于：  浏览：3472 次  分类：PyTorch 教程
提示：本文更新于2024年9月27日PyTorch是一个由Facebook的人工智能研究团队开发的开源深度学习框架，发布于2016年。如今PyTorch已经成为全球最流行的深度学习框架，建议大家以PyTorch为主，谨慎选择TensorFlow或者Paddle（百度飞桨）。1、PyTorch最新版本是多少？当前PyTorch的最新版本是：PyTor[...]
飞燕AI训练营    飞书裁员启示录：找工作之前要擦亮眼睛
撰写于：  浏览：1055 次  分类：飞燕AI训练营
提示：本内容来源于AI训练营的分享，希望各位成员在找工作的时候，多开阔眼界，多了解各个行业的特点。最近字节跳动的飞书大裁员引起了业内关注，对于毕业季的学生，在找工作的时候，应该了解to B软件的行业特点，从而擦亮眼睛，避免走了弯路。飞书属于to B软件，而to B软件想要利润的话注定规模就大不起来。虽然这种情况有点违背软件行业的边际效应理论，但是现[...]
关注公众号，了解站长最新动态

    友情链接

飞燕网 - 专注于PyTorch  ©  2025   运行时间： 2471天   上线时间：2019年3月19日
飞燕网，最全面的Pytorch教程网！
京ICP备14057001号