ICLR 2021 | 近期必读强化学习精选论文_强化学习论文推荐-程序员宅基地

强化学习（Reinforcement learning）是机器学习中的一个领域，强调如何基于环境而行动，以取得最大化的预期利益。其灵感来源于心理学中的行为主义理论，即有机体如何在环境给予的奖励或惩罚的刺激下，逐步形成对刺激的预期，产生能获得最大利益的习惯性行为。

1.论文名称：Off-Dynamics Reinforcement Learning: Training for Transfer with Domain Classifiers

论文链接：https://www.aminer.cn/pub/5ef476b991e01165a63bbd0d?conf=iclr2021

简介：我们提出了一种简单，实用和直观的方法来进行强化学习中的领域适应。我们的方法源于这样的想法，即代理在源域中的经验应类似于其在目标域中的经验。基于RL的概率视图，我们正式表明，可以通过修改奖励函数来补偿动态差异来实现此目标。通过学习将源域转换与目标域转换区分开的辅助分类器，可以轻松估算此修改后的奖励函数。凭直觉，修改后的奖励功能对探员访问源和在源域中采取在目标域中不可能执行的动作的行为进行了惩罚。换句话说，对代理进行惩罚以进行过渡，该过渡将指示代理正在与源域而不是目标域进行交互。我们的方法适用于具有连续状态和动作的领域，不需要学习动态的显式模型。在离散和连续控制任务上，我们说明了这种方法的原理，并展示了其对高维任务的可扩展性

2.论文名称：Robust Reinforcement Learning using Adversarial Populations

论文链接：https://www.aminer.cn/pub/5f2be2ae91e011b36ba9cfaf?conf=iclr2021

简介：强化学习（RL）是用于控制器设计的有效工具，但可能会遇到鲁棒性问题，当底层系统动态受到干扰时，灾难性地失败。健壮的RL公式通过向动力学中添加最坏情况的对抗性噪声并将噪声分布构造为零和最小极大游戏的解决方案来解决此问题。但是，现有的针对鲁棒RL公式的学习解决方案的工作主要集中在针对单个对手训练单个RL代理。在这项工作中，我们证明了使用单个对手并不能始终如一地在对手的标准参数设置下产生对动态变化的鲁棒性。由此产生的政策很容易被新的对手利用。我们建议对Robust RL公式进行基于人群的扩充，在该公式中，我们在训练过程中随机初始化对手的人群并从该人群中均匀采样。我们在各种机器人技术基准上进行实证验证，即对抗性人群的使用会导致制定更强大的政策，从而改善分布外的概括性。最后，我们证明了这种方法在这些基准测试中提供了可比的鲁棒性和泛化性，如域随机化，同时避免了普遍存在的域随机化失败模式。

3.论文名称：OPAL: Offline Primitive Discovery for Accelerating Offline Reinforcement Learning

论文链接：https://www.aminer.cn/pub/5f980a2191e0112e0cda7ecb?conf=iclr2021

简介：强化学习（RL）在各种在线设置中均取得了骄人的成绩，在这种设置中，座席查询环境以获取过渡和奖励的能力实际上不受限制。但是，在许多实际应用中，情况恰恰相反：代理可能有权访问大量无方向的脱机体验数据，而对联机环境的访问受到严重限制。在这项工作中，我们专注于此离线设置。我们的主要见解是，当使用由各种行为组成的离线数据呈现时，一种有效利用此数据的方法是，在将这些原语用于下游任务学习之前，提取连续的和临时扩展的原语行为空间。以这种方式提取的基元有两个目的：它们描述了数据支持的行为与不支持的行为，从而有助于避免离线RL中的分布偏移。并且它们提供了一定程度的时间抽象，从而降低了有效视野，从而在理论上产生了更好的学习效果，并在实践中改善了离线RL。除了有益于脱机策略优化外，我们还表明，以这种方式执行脱机原始学习还可以用于改进几次模仿学习以及在各种基准域上进行在线RL的探索和转移。。

4.论文名称：Decoupling Representation Learning from Reinforcement Learning

论文链接：https://www.aminer.cn/pub/5f6488cf91e011f934ad258c?conf=iclr2021

简介：为了克服基于奖励的特征学习在图像深度增强学习（RL）中的局限性，我们提出将表示学习与策略学习分离。为此，我们引入了一种新的无监督学习（UL）任务，称为增强时空对比度（ATC），该任务训练卷积编码器以在图像增强和使用对比损失的情况下关联由短时间差分隔开的观察对。在在线RL实验中，我们表明在大多数环境中，仅使用ATC匹配或优于端到端RL训练编码器即可。此外，我们通过在专家演示中对编码器进行预训练并在RL代理中冻结权重后使用编码器，对几种领先的UL算法进行基准测试；我们发现，使用经过ATC训练的编码器的代理要优于其他代理。我们还针对来自多个环境的数据训练多任务编码器，并展示了对不同下游RL任务的概括。最后，我们消除了ATC的组件，并引入了新的数据增强功能，以在RL需要增强时从预训练的编码器中重放（压缩的）潜像。

5.论文名称：Maximum Reward Formulation In Reinforcement Learning

论文链接：https://www.aminer.cn/pub/5f802d3691e01119a5df72fc?conf=iclr2021

简介：强化学习（RL）算法通常用于最大化预期的累积回报（折扣或未折扣，有限或无限范围）。但是，现实世界中的一些关键应用（例如药物发现）不适合该框架，因为RL代理仅需要识别在轨迹内获得最高奖励的状态（分子），而无需针对预期进行优化累积收益。在这项工作中，我们制定了一个目标函数，使沿着轨迹的预期最大报酬最大化，得出了Bellman方程的新颖函数形式，引入了相应的Bellman算子，并提供了收敛的证明。使用这种配方，我们在模拟现实世界中的药物发现流程的分子生成任务上获得了最先进的结果。

在这里插入图片描述

本文链接：https://blog.csdn.net/AI_Conf/article/details/113010063

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

稀疏编码的数学基础与理论分析-程序员宅基地

文章浏览阅读290次，点赞8次，收藏10次。1.背景介绍稀疏编码是一种用于处理稀疏数据的编码技术，其主要应用于信息传输、存储和处理等领域。稀疏数据是指数据中大部分元素为零或近似于零的数据，例如文本、图像、音频、视频等。稀疏编码的核心思想是将稀疏数据表示为非零元素和它们对应的位置信息，从而减少存储空间和计算复杂度。稀疏编码的研究起源于1990年代，随着大数据时代的到来，稀疏编码技术的应用范围和影响力不断扩大。目前，稀疏编码已经成为计算...

EasyGBS国标流媒体服务器GB28181国标方案安装使用文档-程序员宅基地

文章浏览阅读217次。EasyGBS - GB28181 国标方案安装使用文档下载安装包下载，正式使用需商业授权, 功能一致在线演示在线API架构图EasySIPCMSSIP 中心信令服务, 单节点, 自带一个 Redis Server, 随 EasySIPCMS 自启动, 不需要手动运行EasySIPSMSSIP 流媒体服务, 根..._easygbs-windows-2.6.0-23042316使用文档

【Web】记录巅峰极客2023 BabyURL题目复现——Jackson原生链_原生jackson 反序列化链子-程序员宅基地

文章浏览阅读1.2k次，点赞27次，收藏7次。2023巅峰极客 BabyURL之前AliyunCTF Bypassit I这题考查了这样一条链子：其实就是Jackson的原生反序列化利用今天复现的这题也是大同小异，一起来整一下。_原生jackson 反序列化链子

一文搞懂SpringCloud，详解干货，做好笔记_spring cloud-程序员宅基地

文章浏览阅读734次，点赞9次，收藏7次。微服务架构简单的说就是将单体应用进一步拆分，拆分成更小的服务，每个服务都是一个可以独立运行的项目。这么多小服务，如何管理他们？(服务治理注册中心[服务注册发现剔除])这么多小服务，他们之间如何通讯？这么多小服务，客户端怎么访问他们？(网关)这么多小服务，一旦出现问题了，应该如何自处理？(容错)这么多小服务，一旦出现问题了，应该如何排错?(链路追踪)对于上面的问题，是任何一个微服务设计者都不能绕过去的，因此大部分的微服务产品都针对每一个问题提供了相应的组件来解决它们。_spring cloud

Js实现图片点击切换与轮播-程序员宅基地

文章浏览阅读5.9k次，点赞6次，收藏20次。Js实现图片点击切换与轮播图片点击切换<!DOCTYPE html><html> <head> <meta charset="UTF-8"> <title></title> <script type="text/ja..._点击图片进行轮播图切换

tensorflow-gpu版本安装教程（过程详细）_tensorflow gpu版本安装-程序员宅基地

文章浏览阅读10w+次，点赞245次，收藏1.5k次。在开始安装前，如果你的电脑装过tensorflow，请先把他们卸载干净，包括依赖的包（tensorflow-estimator、tensorboard、tensorflow、keras-applications、keras-preprocessing），不然后续安装了tensorflow-gpu可能会出现找不到cuda的问题。cuda、cudnn。..._tensorflow gpu版本安装

随便推点

物联网时代权限滥用漏洞的攻击及防御-程序员宅基地

文章浏览阅读243次。0x00 简介权限滥用漏洞一般归类于逻辑问题，是指服务端功能开放过多或权限限制不严格，导致攻击者可以通过直接或间接调用的方式达到攻击效果。随着物联网时代的到来，这种漏洞已经屡见不鲜，各种漏洞组合利用也是千奇百怪、五花八门，这里总结漏洞是为了更好地应对和预防，如有不妥之处还请业内人士多多指教。0x01 背景2014年4月，在比特币飞涨的时代某网站曾经..._使用物联网漏洞的使用者

Visual Odometry and Depth Calculation--Epipolar Geometry--Direct Method--PnP_normalized plane coordinates-程序员宅基地

文章浏览阅读786次。A. Epipolar geometry and triangulationThe epipolar geometry mainly adopts the feature point method, such as SIFT, SURF and ORB, etc. to obtain the feature points corresponding to two frames of images. As shown in Figure 1, let the first image be and th_normalized plane coordinates

开放信息抽取(OIE)系统（三）-- 第二代开放信息抽取系统(人工规则, rule-based, 先抽取关系)_语义角色增强的关系抽取-程序员宅基地

文章浏览阅读708次，点赞2次，收藏3次。开放信息抽取(OIE)系统（三）-- 第二代开放信息抽取系统(人工规则, rule-based, 先关系再实体)一.第二代开放信息抽取系统背景第一代开放信息抽取系统(Open Information Extraction， OIE， learning-based, 自学习, 先抽取实体)通常抽取大量冗余信息，为了消除这些冗余信息，诞生了第二代开放信息抽取系统。二.第二代开放信息抽取系统历史第二代开放信息抽取系统着眼于解决第一代系统的三大问题: 大量非信息性提取（即省略关键信息的提取）、_语义角色增强的关系抽取