tensorflow滑动平均模型ExponentialMovingAverage的使用_exponentialmovingaverage在tensflow使用-程序员宅基地

技术标签: 算法  tensorflow  机器学习算法  滑动平均值  ExponentialMovingAverage  

  滑动平均模型可以在一定程度上提高最终模型在测试集或实际预测数据的准确性。神经网络中每层的参数矩阵W都建一个对应的影子变shade_w量,一般情况下每一批数据更新一次W,shade_w也会随着更新但更新的幅度小有W。影子变量更新值由下面的公式决定:
  shadow_w = decay * shadow_w + (1-decay) * w
shadow_w的初始值就是w的初始值,decay是衰减率自己指定的参数,w是这次更新后的值。使用方法很简单,下面看下源码和便用方法

#构告函数
#decay必传的参数,一般是(0.9,1)
#num_updates可以控制decay的大小,min(decay, (1 + num_updates) / (10 + num_updates))
#zero_debias本人也没看太懂,反正是一般用不到的,应该是指避免数学上的一些错误,例如除0
  def __init__(self, decay, num_updates=None, zero_debias=False,
               name="ExponentialMovingAverage")

下面看一个例子

v1 
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/zhaojianting/article/details/80593189

智能推荐

Python(35):Python3 通过https上传文件和下载文件_python3 文件上传下载-程序员宅基地

文章浏览阅读1.3k次,点赞29次,收藏8次。Python(35):Python3 通过https上传文件和下载文件_python3 文件上传下载

手机远程唤醒 android,手机微信实现网络唤醒电脑(WOL),远程开机,WakeOnLan – 全栈笔记...-程序员宅基地

文章浏览阅读5.1k次。一、需求分析我的电脑一般都是24小时候开机的,方便远程操作。但是这样,一是比较浪费电,二是对电脑硬件也或多或少有些影响。所以就需要远程开机。目前远程开机有很多种方式:1、智能插线板,可以远程控制插板的通电和断电,并在BIOS中设置来电开机,实现远程开机2、通过一些硬件,插到机箱电源跳线上来实现3、利用大部分电脑都支持的WakeOnLan技术来实现开机,只是配置过程有不少坑,相对比较麻烦。如果利用W..._wol安卓远程唤醒软件

VUE基础知识学习,零基础安装node和淘宝镜像 operation not permitted, mkdir ‘D:\nodejs\node_global‘解决方法_operation not permitted, mkdir 'd:\nodejs\node_glo-程序员宅基地

文章浏览阅读1.6k次,点赞5次,收藏2次。@VUE基础知识学习,基础安装node和淘宝镜像 operation not permitted, mkdir 'D:\nodejs\node_global’解决方法在官网上搜索node.js安装下载成功之后在本地进行安装,记得一定要去搜一下安装教程,因为有些步骤需要修改正常安装之后没有什么问题。检验npm版本(operation not permitted, mkdir 'D:\nodejs\node_global’解决方法)在这里我遇到了一个问题:发现报错,之后我就去百度上搜索了一下这个问_operation not permitted, mkdir 'd:\nodejs\node_global

C语言strtoul函数简介-字符串转无符号长整形_strtoul(argc[2], 0, 16);-程序员宅基地

文章浏览阅读224次。请查看这位大牛的文章,写得太好了,牛皮plus plus.......https://blog.csdn.net/qq_37858386/article/details/78458401_strtoul(argc[2], 0, 16);

7本计算机圣经_计算机程序设计艺术多少本-程序员宅基地

文章浏览阅读7k次,点赞3次,收藏14次。1、《计算机程序设计艺术(第1卷)》《计算机程序设计艺术》系列是公认的计算机科学领域经典之作,深入阐述了程序设计理论,对计算机领域的发展有着极为深远的影响。一共有3卷,第 1 卷,讲解基本算法;第2卷,全面讲解了半数值算法,分“随机数”和“算术”两章;第3卷,全面讲述了排序和查找算法。豆瓣书评:@Palmer:这也算是需要 一辈子用心来读 的一本书吧!~@P..._计算机程序设计艺术多少本

Python Matplotlib画图-程序员宅基地

文章浏览阅读101次。本次学习内容主要涉及利用一些方法如concat方法进行数据合并以及利用groupby进行分组统计,关于concat等合并方法在《利用Python进行数据分析(第二版)》中已做详细说明,其中的学习注释便不再搬运到此处,至于groupby函数的基本使用,与SQL语句中的groupby类似,不再赘述。本次博文仅贴写一些代码。## 导入基本库import pandas as pdimport numpy as np## 数据加载text = pd.read_csv("data/train-left-

随便推点

Android自定义 edittext,Android 自定义ClearEditTextView-程序员宅基地

文章浏览阅读161次。ClearEditTextView通过扩展EditText,添加了右边清除按钮、输入数据不合法时可左右抖动的功能。效果如下:模拟登录整体的实现代码如下:public class ClearEditTextView extends EditText implements View.OnFocusChangeListener, TextWatcher {//右边的删除按钮private Drawabl..._android edittext clear

小程序与H5如何互相跳转_uni小程序跳转到h5链接方法-程序员宅基地

文章浏览阅读1.1k次。由于小程序官方没有提供外部H5网页直接跳转到小程序的api,所以目前只支持小程序内嵌H5,并且只有内嵌的H5才能跳回小程序小程序跳转H5需要用到小程序的web-view,官方文档链接web-view是承载网页的容器。会自动铺满整个小程序页面,个人类型的小程序暂不支持使用。写法如下:<view class="page-body"> <web-vi..._uni小程序跳转到h5链接方法

程序员的职业成长之路?从初级到高级的技能提升之路-程序员宅基地

文章浏览阅读153次。程序员的职业成长之路?从初级到高级的技能提升之路

Winform中使用FastReport的PictureObject时通过代码设置图片源并使Image图片旋转90度_fastreport 图片旋转-程序员宅基地

文章浏览阅读731次。场景FastReport安装包下载、安装、去除使用限制以及工具箱中添加控件:https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/details/100893794Winform中使用FastReport实现简单的自定义PDF导出:https://blog.csdn.net/BADAO_LIUMANG_QIZHI/article/det..._fastreport 图片旋转

原生js实现移动站点头部搜索栏背景色透明度变化,倒计时,轮播图_js标题滚动实现背景图片由透明变实色怎么弄-程序员宅基地

文章浏览阅读1k次。window.onload = function() { searchRgba(); secondKill(); bannerAutoPlay();} //封装首页头部搜索栏在页面向下滚动时,背景颜色从透明,慢慢变深的效果,在超过轮播图时,背景透明度为0.85不变。 function searchRgba() { var topSearch = docu..._js标题滚动实现背景图片由透明变实色怎么弄

Cesium 自定义Primitive - 绘制多边形_cesium 画空间多边形-程序员宅基地

文章浏览阅读689次,点赞10次,收藏9次。利用Cesium自定义Primitive渲染多边形,并实现实时绘制多边形_cesium 画空间多边形

推荐文章

热门文章

相关标签