机器学习笔记 - 性能度量_类别的真实标记与预测_volvet的博客-程序员秘密

在预测任务中, 给定样本集 $D = \{ (x_1, y_1), (x_2, y_2), ... , (x_m, y_m)\}$ , 其中 $y_i$ 是样本 $x_i$ 的真实标记, 要评估学习器的性能, 就要把学习预测结果 $f(x)$ 跟真实的标记进行比较。
回归任务常用均方误差(mean squared error)

E (f; D) = 1 m \sum i = 1 m (f (x i) - y i) 2

$E(f;D) = \frac {1}{m} \sum_{i=1}^m(f(x_i)-y_i)^2$
更一般的，对于数据分布

D $D$ 和其概率密度函数

p(.) $p(.)$ , 均方误差可描述为

E (f : D) = \int x \subset D (f (x) - y) 2 p (x) d x

$E(f:D) = \int_{x\subset D}(f(x)-y)^2p(x)dx$

错误率与精度

给定样本集 $D$ , 分类错误率定义为

E (f; D) = 1 m \sum i = 1 m (f (x i) \neq y i)

$E(f;D) = \frac{1}{m} \sum_{i=1}^m(f(x_i) \neq y_i)$
精度定义为

a c c (f; D) = 1 m \sum i = 1 m (f (x i) = = y i)

$acc(f;D) = \frac{1}{m} \sum_{i=1}^m(f(x_i) == y_i)$
更一般的，对于数据分布

D $D$ 和其概率密度函数

p(.) $p(.)$ , 错误率和精度定义为

E (f; D) = \int x \subset D (f (x) \neq y) p (x) d x

$E(f;D)=\int_{x\subset D}(f(x)\neq y)p(x)dx$

a c c (f; D) = \int x \subset D (f (x) = = y) p (x) d x = 1 - E (f; D)

$acc(f;D)=\int_{x\subset D}(f(x)==y)p(x)dx = 1 - E(f;D)$

混淆矩阵(Confusion Matrix)

对于二分类问题，可以将其真实类别和预测类别的组合划分为TP(true positive), FP(false positive), TN(true negative), FN(false negative)四种，显然 TP + FP + TN + FN = 样本总数。
分类结果的混淆矩阵如下所示

真实情况	预测结果
正例	正例(TP)
正例	反例(TN)
反例	正例(FP)
反例	反例(FN)

查准率 $P$ 与查全率 $R$

P = T P T P + F P

$P = \frac{TP}{TP + FP}$

R = T P T P + T F

$R = \frac{TP}{TP + TF}$

　P-R曲线, ROC 与 AUC

P-R 曲线是以Ｐ为纵轴，　Ｒ为横轴作图得到的曲线．
平衡点(Break-Even Point) 是 P == R 时候的取值.
True Positive Rate(TPR)
False Positive Rate(FPR)

T P R = T P T P + F N

$TPR = \frac{TP}{TP+FN}$

F P R = F P T N + F P

$FPR = \frac{FP}{TN+FP}$
ROC曲线就是以TPR为纵轴，　FPR为横轴的曲线
AUC(Area Under ROC Curve)

Reference

机器学习 - 周志华清华大学出版社

本文链接：https://blog.csdn.net/volvet/article/details/54896830

原作者删帖不实内容删帖广告或垃圾文章投诉

智能推荐

网络游戏探索（ing_huangbaif的博客-程序员秘密

简述框架：unity(URP + xlua + VMUI)网络层使用udp，客户端使用xlua集成的luasocket，服务端使用c++源码服务端代码：#include <Winsock2.h>#include <cstdio>#include <string.h>#include <stdio.h>#include<map>#include <iostream>using namespace std;#

Windows- 每隔1s执行一段程序的方法_cmd中每隔一秒执行一个命令_bailang_zhizun的博客-程序员秘密

#include&lt;windows.h&gt;.....while(1){Sleep(1000);//延时1s.......}另外Sleep(1000)：占用CPU，线程休眠1000ms；系统的CPU部分资源被占用，其他线程无法进入，增加时间限制Wait(1000)：不占用CPU，线程等待1000ms；等待使用CPU，不占用系统CPU资源，会增加时间限...

科研画图工具_月亮不知道的博客-程序员秘密

http://alexlenail.me/NN-SVG/LeNet.htmlhttps://cbovar.github.io/ConvNetDraw/

oracle如何修改schema,oracle修改用户的schema_weixin_39945475的博客-程序员秘密

标签：aftersessionimmcreatmediaracoraclelogocreate临时：alter session set current_schema=X;永久：alter session set current_schema= X 倒是能解决问题，但这总不是个永久的解决方案；在after log on事件上做触发器执行上面的语句;cr...

计算机无法安装网卡驱动,网卡驱动安装不了,详细教您解决网卡驱动安装不了..._可可子姐姐教英语的博客-程序员秘密

重装系统后一般会没有网络，无法联网也是纯属正常现象，这时候，我们需要操作的更新网卡驱动软件了。这时候就只能从能上网的电脑下载下相应的网卡驱动，然而在安装的操作上，有用户却发现网卡驱动安装不了。这该怎么办呢？具体的操作流程，下面，小编给大家整理了解决网卡驱动安装不了的操作教程。随着网络科技的发展，越来越多的用户都开始上网。无论是在生活上，还是工作上，就连大学上的学生也离不开电脑网络，既然给我们带来方...

【数理知识】《矩阵论》方保镕老师-第8章-矩阵在数学内外的应用_矩阵论方保镕csdn_Zhao-Jichao的博客-程序员秘密

第8章-矩阵在数学内外的应用8.1 矩阵在数学内部的应用8.1.1 矩阵在代数中的应用8.1.2 矩阵在几何中的应用8.1.3 矩阵在图论中的应用1. 邻接矩阵的概念2. 无向图的邻接矩阵3. 有向图的邻接矩阵4. 图论中重要定理的证明定理 8.1.5定理 8.1.6 （友谊定理）8.2 矩阵在数学之外的应用8.2.1 矩阵在信息编码中的应用8.2.2 矩阵在经济模型中的应用8.2.3 矩阵在生物种群生长繁殖问题中的研究8.2.4 矩阵在控制论中的应用1. 系统的可观测性2. 系统的能控性3. 系统的可稳定

随便推点

googletest简介_google test_唏噗的博客-程序员秘密

googletest是由谷歌的测试技术团队开发的测试框架，使用c++实现，具有跨平台等特性。好的测试框架引用谷歌给出的文档，好的测试应当具备以下特征：测试应该是独立的和可重复的。调试一个由于其他测试而成功或失败的测试是一件痛苦的事情。googletest通过在不同的对象上运行测试来隔离测试。当测试失败时，googletest允许您单独运行它以快速调试。测试应该很好地“组织”，并反映出测试代码的结构。googletest将相关测试分组到可以共享数据和子例程的测试套件中。这种通用模式很容易识别，并使测