机器学习基础 - [第五章:神经网络学习](3)模型表示_机器学习 g(z^(3))-程序员宅基地

技术标签: 机器学习算法  

1、前向传播:向量化实现

上一篇文章,我们提到了神经网络种的一些约定表示,我们还可以进一步利用一些符号简化表示:
比如,将连接第2层的第1个单元的线性加权和 Θ 10 ( 1 ) x 0 + Θ 11 ( 1 ) x 1 + Θ 12 ( 1 ) x 2 \Theta_{10}^{(1)}x_{0}+\Theta_{11}^{(1)}x_{1}+\Theta_{12}^{(1)}x_{2} Θ10(1)x0+Θ11(1)x1+Θ12(1)x2表示成 z 1 ( 2 ) z_{1}^{(2)} z1(2),这样,该单元逻辑函数的输出值:
a 1 ( 2 ) = g ( z 1 ( 2 ) ) a_{1}^{(2)}=g(z_{1}^{(2)}) a1(2)=g(z1(2))
同理,
a 2 ( 2 ) = g ( z 2 ( 2 ) ) a_{2}^{(2)}=g(z_{2}^{(2)}) a2(2)=g(z2(2))
a 3 ( 2 ) = g ( z 3 ( 2 ) ) a_{3}^{(2)}=g(z_{3}^{(2)}) a3(2)=g(z3(2))
进一步,如果把 x x x记为 a ( 1 ) a^{(1)} a(1)
那么:
z ( 2 ) = Θ ( 1 ) a ( 1 ) z^{(2)}=\Theta^{(1)}a^{(1)} z(2)=Θ(1)a(1)
a ( 2 ) = g ( z ( 2 ) ) a^{(2)}=g(z^{(2)}) a(2)=g(z(2))
a d d   a 0 ( 2 ) = 1 add\ a_{0}^{(2)}=1 add a0(2)=1

z ( 3 ) = Θ ( 2 ) a ( 2 ) z^{(3)}=\Theta^{(2)}a^{(2)} z(3)=Θ(2)a(2)
a ( 3 ) = g ( z ( 3 ) ) a^{(3)}=g(z^{(3)}) a(3)=g(z(3))
h Θ ( x ) = a ( 3 ) h_{\Theta}(x)=a^{(3)} hΘ(x)=a(3)
在这里插入图片描述
从前向传播的式子可以看出,每一层的输入都是上一层抽象出来的特征:
在这里插入图片描述

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/duan20140614/article/details/91348899

智能推荐

go 编译报错go tool: no such tool compile-程序员宅基地

文章浏览阅读2.3w次,点赞3次,收藏6次。问题简述: 在Ubuntu 16.04.4 LTS:使用新安装的go编译任何东西都报错。问题定位: 执行go env命令查看结果如下:ubuntu@ip-172-31-27-10:~$ go envGOARCH="amd64"GOBIN=""GOEXE=""GOHOSTARCH="amd64"GOHOSTOS="linux"GOOS="linux"GOPATH=&

eclipse对齐快捷键失败解决方法_eclipse对齐失效-程序员宅基地

文章浏览阅读2.3k次。win10中,ctrl+shift+F对齐键会失效,被微软自带的输入法的简繁体切换占用了。 我查看了下,并没找到输入法的这个热键的去除方法。只能更改eclipse的对齐键。 如图_eclipse对齐失效

Linux安装jdk笔记_openjdk8u-jdk_x64_linux_hotspot_8u312b07.tar.gz-程序员宅基地

文章浏览阅读1.5k次。Linux安装jdk下载由于Oracle下载jdk需要注册账号登录,且速度奇慢,因此可以选择国内镜像,清华镜像https://mirrors.tuna.tsinghua.edu.cn/AdoptOpenJDK/通过wget下载到linux本地wget https://mirrors.tuna.tsinghua.edu.cn/AdoptOpenJDK/8/jdk/x64/linux/OpenJDK8U-jdk_x64_linux_hotspot_8u312b07.tar.gz解压解压到/usr/_openjdk8u-jdk_x64_linux_hotspot_8u312b07.tar.gz

安居客Android项目架构演进-程序员宅基地

文章浏览阅读2w次,点赞15次,收藏64次。本文已授权微信公众号 AndroidDeveloper 独家发布。入职安居客三年从工程师到 Team Leader,见证了 Android 团队一路走来的发展历程。因此有心将这些记录下来与大家分享,也算是对自己三年来一部分工作的总结。希望对大家有所帮助,更希望能得到大家宝贵的建议。三网合并三年前入职时安居客在业务上刚完成了三网合并(新房、二手房、好租和商业地产多个平台多个网站合成现在的 anjuk

MIT 18.06 Linear Algebra 学习笔记-程序员宅基地

文章浏览阅读317次,点赞3次,收藏6次。文章目录Linear Algebra MIT 18.06Lecture 1矩阵乘列向量代表矩阵各列的线性组合Lecture 2高斯消元法高斯消元法的矩阵形式可逆矩阵Lecture 3矩阵乘法的求解矩阵的逆Gauss-Jordan消元法Lecture 4A=LU分解(假设没有行变换)Lecture 5PA=LU(存在行变换,令主元位置不为0)对称矩阵向量空间Lecture 6矩阵列空间Lecture 7矩阵的秩零空间Lecture 8Ax=b有解时b应满足的条件求Ax=b的所有解列满秩时Ax=b的解行满秩时A_18.06 linear algebra

mybatis使用mapper代理的方式操作数据库_是mybatis操作数据库还是mapper操作数据库-程序员宅基地

文章浏览阅读2.9k次,点赞2次,收藏6次。利用mapper 代理的方式操作数据库和上一篇利用传统的方式相比,不需要程序员自己创建 dao 的接口实现类(即:不需要创建userDaoImpl),而是通过 mybatis 代理的方式创建。但是要注意的开发规范: 1、usermapper.xml 文件中 mapper 的 namespace 的值要等于 dao 的接口类的地址2、userDao 方法名和 usermapper.xml_是mybatis操作数据库还是mapper操作数据库

随便推点

stm32 IIC驱动BH1750光照强度传感器/GY302模块_光照传感器gy302电压-程序员宅基地

文章浏览阅读9.8k次,点赞24次,收藏122次。STM32f1系列单片机驱动BH1750转发此文请标明出去!首先说明下**GY302模块上面其实就是一个BH1750芯片**,然后加了一小丢丢的外部驱动电路,实际上本质来说没什么区别,用起来一样。简单的来说下BH1750这款光照强度传感器吧,输入电压VCC在3.0v-3.6v之间,我们一般都是使用3.3v供电啦,通讯采用标准的IIC协议,自身的IIC地址可以有两种选择,怎么选择请..._光照传感器gy302电压

安装elasticsearch-6.2.4出现java.nio.file.AccessDeniedException: /data/wwwroot/elasticsearch-6.2.4/config_es 安装 accessdeniedexception jvm.options-程序员宅基地

文章浏览阅读3.2w次,点赞8次,收藏13次。java.nio.file.AccessDeniedException: /data/wwwroot/elasticsearch-6.2.4/config/jvm.options 原因:当前用户没有执行权限 解决方法: chown linux用户名 elasticsearch安装目录 -R 例如:chown ealsticsearch /data/wwwroot/elastic..._es 安装 accessdeniedexception jvm.options

解决office2007安装程序找不到 office.zh-cnSetup.xml OFFICELR.CAB OFFICEMUI.MSI OFFICEMUI.XML SET_为啥office2007安装找不到-程序员宅基地

文章浏览阅读1.3k次。安装Microsoft Office Project Standard 2007时出现了小问题,经过百度google一番后才发现安装office2007与安装vs2008有着紧密的联系我的机子之前已经安装过VS2008,所以在安装office2007时总是提示“安装程序找不到 office.zh-cn\*”(例如office.zh-cn\Setup.xml),而在安装目录下明明就有_为啥office2007安装找不到

智能反射面| 关于UPA信道建模_uniform planar array-程序员宅基地

文章浏览阅读1.6w次,点赞36次,收藏234次。前言这篇文章想讲一下 智能反射面中 UPA (uniform planar array)的信道建模。 之前在智能反射面| Matlab代码实现的信道仿真一文中, 很简略地给了一个基本的UPA仿真代码, 这篇更详细地说一下 关于 面天线 的建模。当然了, UPA并不只使用于智能反射面中, 尽管在科研方向上, 为了简化问题, 在MIMO问题中大家假设的往往都是线天线阵(ULA), 但实际中往往都是二维的UPA天线。 而在智能反射面中, 作者们实在无法睁眼说瞎话地假设智能反射面是一个线阵了, 毕竟人家名字里都_uniform planar array

visual hull可见外壳_aldo laurentini visual hull 概念-程序员宅基地

文章浏览阅读519次。visual hull用于简单、快速地获取三维模型。目前,获取三维模型的方式有:利用传统几何构造技术直接构造模型利用三维扫描设备对真实物体进行扫描,进而重建出模型利用从各个视角拍摄的真实物体的多幅图像重建模型.由图像重建三维模型技术又可分为两类:一类是通过多幅深度图像重建模型,另一类是通过多幅照片生成物体的可见外壳visual hull.Laurentini 最早提出了可见外壳(v..._aldo laurentini visual hull 概念

adb命令删除apk,不止是uninstall,卸载内置的app方法_adb卸载apk命令-程序员宅基地

文章浏览阅读1.9w次,点赞10次,收藏42次。用abd命令删除apk,肯定很多人都用uninstalladb uninstall 包名接下来我要讲的是通过/system/app路径来卸载,该方法卸载的是内置的app,则要找到它的路径然后才可以卸载(1):adb root //成功的话会没有显示,如果已经是root,会有英文提示(2): adb remount //remount sucessed 代表成功(3)..._adb卸载apk命令

推荐文章

热门文章

相关标签