【李宏毅2020 ML/DL】P1 introduction_explainable ai / adversarial attack_码小余の博客的博客-程序员秘密

技术标签: 机器学习  深度学习  

【李宏毅2020 ML/DL】P1 introduction

本节主要介绍了 DL 的15个作业

image-20210320132730662

英文大意

Regression: 回归分析

Classification: 分类

RNN: 循环神经网络

CNN: 卷积神经网络

Seq2seq: 序列到序列模型

GAN: 生成式对抗网络

Explainable AI: 可解释性AI

Adversarial Attack: 对抗攻击

Network Compression: 网络压缩

Unsupervised Learning(Auto-encoder): 非监督学习(自动编码)

Anomaly Detection: 异常检测

Transfer Learning(Domain Adversarial Learning): 迁移学习(领域对抗学习)

Meta Learning: 学会学习

Life-long Learning: 终生学习

Reinforcement Learning: 强化学习

机器学习就是自动找函式

image-20210320135938791

英文大意

Speech Recognition: 语音识别

Image Recognition: 图片识别

Playing Go: 围棋

Dialogue System: 对话系统

你想找什么样的函式?

回归分析

image-20210320140632731

你想预测明天的 PM2.5 数值,通过今天的数据和昨天的数据来进行预测

二分类

image-20210320140915882

输入一个句子,输出这个句子是正确的或者是错误的两种情况

多类多分

image-20210320141318357

输入一张图片,从多个图片中选出一个正确的食物

生成

image-20210320141934643

产生有结构的东西(例如:文句、图片)

拟人化的读法——创造

怎么告诉机器你想找什么样的函式?

Supervised Learning

image-20210320142243158

提供给机器有 label 的资料进行学习叫做 Supervised Learning

函式的 Loss

image-20210320142728598

image-20210320142748799

Loss 越低,说明输出的结果越准确

image-20210320143026880

这五种方式通过 Supervised Learning 进行学习

Supervised v.s. Reinforcement

image-20210320144124345

Supervised 是每一条数据都有明确的 label,也就是说,棋盘模型与结果一一对应,结果确实很准确,但却是固定不变的,对不同 situation 不能及时的做出反应,而 reinforcement 学习的最终目的是对所有situation都有正确并且及时的反应,reinforcement 可以从之前成功或是失败的结果中get (Reward),相当于人类的记忆一般,可以不断进行学习成长,这是Supervised 所没有的。

Alpha Go 呢是一开始通过 SL 进行学习,学习到一定程度之后再配合 RL 进行学习,从而可想而知…

非监督学习

image-20210320145428991

机器能从未标记的图像中学到什么?

机器怎么找出你想要的函式?

限制函式寻找范围

image-20210320150124744

函式寻找方法 - Gradient Descent(梯度下降)

image-20210320150321707

左边的是通过自己实现算法(Gradient Descent),右边的是直接使用 DL 架构

前沿研究

Explainable AI

image-20210320150655767

你给他一张图片,他会告诉你这是一只猫,但是他并不知道这为什么是只猫,那就需要用到 Explainable AI 了。

Adversarial Attack

image-20210320151126073

当有人恶意攻击图片识别系统,比如说:在猫的图片上添加一些肉眼看不到,但是机器能识别的杂质,就会把猫辨识成其他的动物,比如说,把猫辨识成海星,这时候可能就需要用到 Adversarial Attack 了。

Network Compression

image-20210320151753434

当识别出的 model 非常巨大时,那可能就需要用到 Network Compression 了。

Anomaly Detection

image-20210320152131737

当正在识别的图片是机器从未见过的动物,是个奇奇怪怪的东西,但是机器呢他不知道自己不知道,所以这时候可能就需要用到 Anomaly Detection 了,通过 AD 来告诉机器他不知道。

Transfer Learning(Domain Adversarial Learning)

image-20210320152854891

当训练数据和测试数据不一致时,如果想要让机器学到一些东西,那么就可能需要用到 transfer Learning 了。

Meta Learning

image-20210320153130666

image-20210320153313729

Life-long Learning

image-20210320153840214
image-20210320153900319

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/Cool_breeze_/article/details/115029630

智能推荐

八阿哥-酷-第四弹_lBovinl的博客-程序员秘密

*、Cannot retrieve mapping for action /Caecp/complaintReviewAction检查:jsp页面是否使用了html:form,替换成form测试是否可行 *、does not contain handler parameter named 'method' 异常form属性里面缺少一个 method="post"配置项 ...

淘宝里面的data-spm-anchor-id属性有什么用?_鲲志说的博客-程序员秘密

第一次看到这个属性,很是陌生,结果在知乎上发现介绍内容竟然源自我们部门的技术(捂脸.jpg)没错的,就是淘宝开发平台技术部,先甩一个本篇内容的链接:导购效果跟踪:SPM,里面包括部门相关内容介绍,另外等明年我毕业了,大家可以找我内推下面内容直接从链接中copy过来的什么是SPMSPM是淘宝社区电商业务(xTao)为外部合作伙伴(外站)提供的一套跟踪引导成交效果数据的解决方案。下面是...

python怎么画圆螺旋线_使用Turtle画正螺旋线的方法_weixin_39734493的博客-程序员秘密

使用Turtle画正螺旋线的方法更新时间:2017年09月22日 12:28:02 投稿:jingxian下面小编就为大家带来一篇使用Turtle画正螺旋线的方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧import turtle as tt.setup(800,600,0,0,)t.pensize(2)t.speed(1)t.color("purple")...

pip安装pytorch清华_镜像安装pytorch的简便方法总结_weixin_39624332的博客-程序员秘密

导读PyTorch是一个开源的Python机器学习库,基于Torch,用于自然语言处理等应用程序。2017年1月,由Facebook人工智能研究院(FAIR)基于Torch推出了PyTorch。本文主要介绍镜像安装pytorch的简便方法1.安装anacoda这网上已有许多教程,这里不再赘述。2.显卡加速(安装CPU版本的pytorch跳过)请原谅我在这里又省略了,但我找了一个很好的博客。按照这个...

rman备份后为什么要同时备份归档日志_做rman备份一定会删除无效归档日志吗_EllieWong的博客-程序员秘密

rman备份后为什么要同时备份归档日志呢,既然rman是物理备份,所有数据已经都备份,再次备份归档日志何用?其实rman备份开始之前的归档是没有用的,可以删除,但是不能在rman备份之前就删除,因为rman有可能备份失败,可以在rman备份成功之后删除之。rman备份是一种物理的备份,它直接去读取数据块,因此rman是块级别的备份。从备份的那个时间点开始rman将锁定此刻的

论文解析《Sequicity:Simplifying .........》_漂洋过海的油条的博客-程序员秘密

本文主要解析的是这篇论文《Sequicity:Simplifying Task-oriented Dialogue Systems with Single Sequence-to-Sequence  Architectures》 一、概述论文提出了一个名为 Sequicity 的框架,可将任务型对话的状态追踪和文本生成通过 Seq2Seq 模型来完成。此外,在此任务的基础上,还提出了 ...

随便推点

python 日期相减得天数差_骉码的博客-程序员秘密

import datetimedef straight_minus(): date1 = '' date2 = '' flag = 3 while (1): date1 = (input("please input the fisrt date like,format like 20180808: \n\t")) date2 ...

已解决:com.mysql.jdbc.exceptions.jdbc4.MySQLNonTransientConnectionException_四月变成一座桥的博客-程序员秘密

在IDEA中使用MySQL驱动连接数据库时出现了问题:Exception in thread "main" org.apache.ibatis.exceptions.PersistenceException: ### Error querying database. Cause: com.mysql.jdbc.exceptions.jdbc4.MySQLNonTransientConnectionException: Client does not support authentication pr

CentOS 7下的一个有趣的命令sl_centos7没有sl_二月听泉的博客-程序员秘密

在上一节已经为大家说了如何安装最全的yum源了 这一节将会为大家介绍一个有趣的linux命令 我们先打开终端(Terminal) 切换到root用户 运行#yum install sl.x86_64 -y命令安装sl包 然后运行sl你就会发现一个蒸汽汽车从你的终端跑过

anaconda编写python_使用Anaconda来搭python开发环境记录_段正淳你竟然的博客-程序员秘密

换新电脑,之前的python环境是2.7,现在python都3.8了,所以想要与时俱进一下,准备2.7与3.8同时上。只能用虚拟环境来做多版本python并存,尝试一下大名鼎鼎的anaconda。以下是相关的操作记录及知识备忘Anaconda(https://www.anaconda.com/)就是可以便捷获取包且对包能够进行管理,同时对环境可以统一管理的发行版本。Anaconda包含了conda...

postgreSQL数据库修改日期类型和时间戳类型中的年份_pgsql 更新日期中的年_向阳的花儿的博客-程序员秘密

如果我们要将日期格式中的年份修改成统一的年份,例如2012-01-01修改成2018-01-01,或者2014-05-24修改成2018-05-24. UPDATE table_name SET date_col = to_date( CONCAT ( '2018', RIGHT ( to_char(date_col, 'yyyy-mm-dd'), 6 ) ), 'yyyy-mm-dd' );如果我们要将时间搓格式中的年份修改成统一的年份,例如2.

推荐文章

热门文章

相关标签