分类 深度强化学习技术分享 下的文章


撰写于:  浏览:11 次  分类:深度强化学习技术分享
摘要近端策略优化(Proximal Policy Optimization, PPO)是深度强化学习领域最主流的算法之一,其在机器人控制、大语言模型对齐等场景中应用广泛。然而,PPO 的实现细节繁多,超参数敏感,初学者常遭遇“代码跑通了但模型不收敛”的困境。本文提供一份完整的 PPO PyTorch 复现指南,从 Actor-Critic 网络设计[...]

撰写于:  浏览:618 次  分类:深度强化学习技术分享
提示:本文更新于2025年12月17日在线学习和离线学习介绍在强化学习中,在线学习和离线学习代表了两种不同的数据使用范式。在线学习要求智能体通过与环境实时交互来收集数据,并立即用这些新数据更新策略。这种方法使智能体能够持续探索最新状态,但其“边交互边学习”的特性也容易导致策略更新不稳定——当新策略偏离旧策略过多时,可能引发性能的断崖式下降。以PPO[...]

撰写于:  浏览:1106 次  分类:深度强化学习技术分享
强化学习的核心思想是通过Agent与环境的不断交互,以最大化累计回报为目标来选择合理的行动,这与人类智能中经验知识获取和决策过程不谋而合。特别是近年来深度强化学习在以AlphaGo、AlphaZero、AlphaStar等为代表的机器智能领域的突破,进一步展现了强化学习在解决复杂决策问题的能力,成为人工智能研究领域的热点。当前强化学习主要研究的方法[...]

撰写于:  浏览:1200 次  分类:深度强化学习技术分享
提示:本社群名额有限,目前计划控制为100人,截止2024年8月24日,当前已经有35人加入。1、求职简历存在的问题本站自上线以来,站长以及广大热心网友无偿分享了很多AI相关的电子书,获得了很多AI初学者的认可!同时,也有不少人私下咨询站长关于面试的问题。站长发现很多人的简历写得很空洞,没有亮点,缺少动手项目。技术本来是要用的,而不是记的,只有动起[...]

撰写于:  浏览:1507 次  分类:深度强化学习技术分享
Pop与Art分别表示Preserving Outputs Percisely以及Adaptive Rescaling Target, 即在保障已历经样本输出不变的前提下自适应缩放target值的算法。这个算法来自文献:《Multi-task Deep Reinforcement Learning with popart》。PopArt这个算法本来[...]

撰写于:  浏览:1474 次  分类:深度强化学习技术分享

撰写于:  浏览:1494 次  分类:深度强化学习技术分享
Q-Learning是强化学习中的最基础算法,它基于Q-Table来实现。这个表格的每一行都代表着一个状态(state),每一行的每一列都代表着一个动作(action),而每个值就代表着如果在该state下采取该action所能获取的最大的未来期望奖励。通过Q-Table就可以找到每个状态下的最优行为,进而通过找到所有的最优action来最终得到最[...]

撰写于:  浏览:1668 次  分类:深度强化学习技术分享
在马尔可夫决策过程中,当智能体从一个状态S,选择动作A,会进入另外一个状态S'。同时,也会给智能体奖励R。 奖励既有正,也有负,正代表我们鼓励智能体在这个状态下继续这么做,负得话代表我们并不希望智能体这么做。 在强化学习中,我们会用奖励R作为智能体学习的引导,期望智能体获得尽可能多的奖励。需要注意的是:很多时候,我们并不能单纯通过R来衡量一个动作的[...]

撰写于:  浏览:6498 次  分类:深度强化学习技术分享
1、Protobuf 简介Protocol Buffers(简称 Protobuf),是Google公司开发的一种数据描述语言,类似于XML能够将结构化数据序列化,可用于数据存储、数据交换、通信协议等方面。相比于它的前辈XML、Json,它的体量更小,解析速度更快,所以在业内获得了广泛的应用。在多智能体强化学习过程中,由于多个Agent位于不同的节[...]

撰写于:  浏览:2645 次  分类:深度强化学习技术分享
Ray简介Ray是一个开源的人工智能分布式框架,它的目标是让开发者仅需添加数行代码就能轻松转为适合于计算机集群运行的高性能分布式应用。今天的深度学习越来越需要计算资源,像笔记本电脑这样的单节点开发环境无法扩展以满足算力需求,Ray是将Python和AI应用程序从笔记本电脑扩展到集群的统一方法。使用Ray,您可以将相同的代码从笔记本电脑无缝扩展到集群[...]

撰写于:  浏览:2074 次  分类:深度强化学习技术分享
REINFORCE介绍强化学习中的策略优化主要有两类:基于价值的方法和基于策略的方法(当然两者的结合产生了 Actor-Critic 等算法)。基于值函数的方法主要是学习值函数,然后根据值函数导出一个策略,学习过程中并不存在一个显式的策略;而基于策略的方法则是直接显式地学习一个目标策略。基于价值的方法主要有DQN,而基于策略的方法有REINFORC[...]

撰写于:  浏览:2887 次  分类:深度强化学习技术分享
强化学习中的策略优化主要有两类:基于value价值的方法和基于policy策略的方法(当然两者的结合产生了 Actor-Critic 等算法)。基于值函数的方法主要是学习值函数,然后根据值函数导出一个策略,学习过程中并不存在一个显式的策略;而基于策略的方法则是直接显式地学习一个目标策略。value-based方法是先通过计算出值函数,然后再求策略;[...]

撰写于:  浏览:1385 次  分类:深度强化学习技术分享
马尔可夫决策过程简介马尔可夫决策过程(Markov Decision Processes,MDP)是对强化学习中环境的形式化的描述,或者说是对于智能体所处的环境的一个建模。在强化学习中,几乎所有的问题都可以形式化地表示为一个马尔可夫决策过程。本文以Frozen Lake游戏为例,介绍一下马尔可夫决策过程。Frozen Lake 游戏介绍Frozen[...]

撰写于:  浏览:2103 次  分类:深度强化学习技术分享
当我们使用gym创建环境的时候:env = gym.make('CartPole-v0')返回的env其实并非CartPole类本身,而是一个经过包装的环境。包装的过程可以看这里:def make(self, path, **kwargs): spec = self.spec(path) env = spec.m[...]

撰写于:  浏览:3410 次  分类:深度强化学习技术分享
MuJoCo 简介MuJoCo全称为Multi-Joint dynamics with Contact,主要由华盛顿大学的Emo Todorov教授开发,应用于最优控制、状态估计、系统辨识等领域,在机器人动态多点接触的应用场合(如多指灵巧手操作)有明显优势。MuJoCo 现状介绍MuJoCo最初由华盛顿大学运动控制实验室主任、神经科学家Emo To[...]

关注公众号,感悟技术与人生

飞燕网
一个踏实、严谨的网站!

专注于PyTorch、强化学习和大模型技术

    友情链接