深入理解机器学习——k近邻(kNN,k-Nearest Neighbor)算法:算法定义_k近邻算法估计e(y|x)-程序员宅基地

技术标签: 机器学习  深入理解机器学习  近邻算法  深度学习  kNN  数据挖掘  

分类目录:《深入理解机器学习》总目录


k近邻算法简单、直观:给定一个训练数据集 D D D,对新的输入实例,在训练数据集中找到与该实例最邻近的 k k k个实例,这 k k k个实例的多数属于某个类,就把该输入实例分为这个类。下面先叙述 k k k近邻算法,然后再讨论其细节:

k近邻(k-Nearest Neighbor)算法
输入:
\qquad 训练集: D = ( x 1 , y 1 ) , ( x 2 , y 2 ) , ⋯   , ( x N , y N ) D = {(x_1, y_1), (x_2, y_2), \cdots, (x_N, y_N)} D=(x1,y1),(x2,y2),,(xN,yN)
输出:
\qquad 实例 x x x所属的类 y y y
算法:.
( 1 ) 根据给定的距离度量,在训练集 D D D中找出与 x x x最邻近的 k k k个点,涵盖这 k k k个点的 x x x的邻域记作 N k ( x ) N_k(x) Nk(x)
( 2 ) 在 N k ( x ) N_k(x) Nk(x)中根据分类决策规则(如多数表决)决定 x x x的类别 y y y
y = arg max ⁡ c j I ( y i = c j ) y=\argmax_{c_j}{I(y_i=c_j)} y=cjargmaxI(yi=cj)

k近邻法的特殊情况是 k = 1 k=1 k=1的情形,称为最近邻算法。对于输入的实例点(特征向量) x x x,最近邻法将训练数据集中与 x x x最邻近点的类作为 x x x的类。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/hy592070616/article/details/121178651

智能推荐

输入1~100内所有素数并每5个换行_编写程序,输出1-100所有素数,每五行换一行-程序员宅基地

文章浏览阅读7.8k次,点赞8次,收藏23次。输入1~100内所有整数并每5个换行public class QiuSuShu { public static void main(String[]args) { int count=0; for(int i = 2;i <= 100;i++) {//定义范围 for(int k=2;k<=i;k++) {//k!=1,因为k要是等于1,因为任何一个整数都能被1整除。 //排除掉能被自身之外整除的数。 if(i % k == 0 && k !=_编写程序,输出1-100所有素数,每五行换一行

车位检测算法-Context-Based Parking Slot Detection With a Realistic Dataset-程序员宅基地

文章浏览阅读2.7k次,点赞5次,收藏23次。停车位检测算法总结Context-Based Parking Slot Detection With a Realistic Dataset提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录停车位检测算法总结Context-Based Parking Slot Detection With a Realistic Dataset前言一、pandas是什么?二、使用步骤1.引入库2.读入数据总结前言提示:这里可以添加本文要记录的大概内容:例如:随着人工智能的不断发展,机器学_context-based parking slot detection with a realistic dataset

深入浅出RxJava(二:操作符)_rxjava操作符-程序员宅基地

文章浏览阅读10w+次,点赞89次,收藏172次。RxJava operator介绍,介绍了RxJava中几种常见的operator的用法_rxjava操作符

TypeError: Cannot read property 'xxxx' of undefined的解决方法_typeerror: cannot read property 'sendbeacon' of un-程序员宅基地

文章浏览阅读9w次,点赞21次,收藏53次。TypeError: Cannot read property ‘length’ of undefined_typeerror: cannot read property 'sendbeacon' of undefined

vSphere与Proxmox比较_proxmos vmware虚拟机-程序员宅基地

文章浏览阅读6k次。什么是vSphere?VMware虚拟化软件有许多不同的版本,但是vSphere无疑是最受欢迎的版本。该旗舰产品以前称为VMware Infrastructure,它包括两个主要部分:虚拟机监控程序和管理平台。ESXi是Type 1虚拟机管理程序(与OS内核耦合的裸机虚拟机管理程序),vCenter Server(以前称为VirtualCenter)用于基础架构管理,提供了跨ESXi主机的..._proxmos vmware虚拟机

黑马程序员JAVA 颜色过滤器 程序_技术成长笔记_新浪博客-程序员宅基地

文章浏览阅读82次。import java.awt.*;import java.awt.event.*;import javax.swing.*;import javax.swing.event.*;import javax.swing.colorchooser.*;public class ColorChooserDemo extends JPanel implementsChangeListe..._java shell 颜色字符过滤

随便推点

el-element分页器页码重置为1_elementui页面重置页码-程序员宅基地

文章浏览阅读594次,点赞13次,收藏13次。但是,再打开,列表内容是对的(第1页),分页器显示却还是2或3...停留在上次。起初,我想在切换页码,调接口之后,重置为1就好了,这样下次打开就是第一页。解决:current-page加.sync就ok了。_elementui页面重置页码

Windows服务原理&调试方法_win service 工作 原理-程序员宅基地

文章浏览阅读2.5k次,点赞2次,收藏7次。s_win service 工作 原理

Swift多线程编程总结-程序员宅基地

文章浏览阅读125次。在开始多线程之前,我们先来了解几个比较容易混淆的概念。概念线程与进程线程与进程之间的关系,拿公司举例,进程相当于部门,线程相当于部门职员。即进程内可以有一个或多个线程。并发和并行并发指的是多个任务交替占用CPU,并行指的是多个CPU同时执行多个任务。好比火车站买票,并发指的是一个窗口有多人排队买票,而并行指的是多个窗口有多人排队买票。同步和异步同步指在执行一个函数时,如果这个函数没有..._swift 异步函数可能会在一个完全不同的线程上恢复

FIFO那些事儿_almost full产生条件-程序员宅基地

文章浏览阅读5.9k次。0.引言FIFO尤其是异步FIFO几乎是数字IC设计工程师面试必备,几乎每年都有9~10月份都能听到关于异步FIFO的讨论。而异步FIFO在接口电路设计或高速数据传输中也非常常用,在实际工程应用中,一般很少去自己设计异步FIFO,因为其太复杂,处理很繁琐,容易出错;一般是使用DW的IP,使用FPGA的也有对应的FIFO的IP供免费使用。好的FIFO有两条标准:写满不溢出,读空不多读。一定要_almost full产生条件

动态调频DVFS_转-程序员宅基地

文章浏览阅读515次。转自:Linux Core Power Management User's Guide (v3.14) http://processors.wiki.ti.com/index.php/Linux_Core_Power_Management_User's_Guide_(v3.14)?keyMatch=Linux%20Core%20Power&amp;tisearch=Search..._ti power_management_user's_guide

LDAP-Apache Directory Studio使用(创建DC.OU及用户)_(|(objectclass=inetorgperson)( objectclass =person-程序员宅基地

文章浏览阅读1.3w次。下载apacheds Studio首先链接到apacheds server端然后链接 要注意的是如果是默认的 我的LDAP是在docker中的 账号和密码也是默认:账号:uid=admin,ou=system密码:secret 点击finish即可 链接到ldap 先建立DC 也可以直接修改名字双击overview建立你需要..._(|(objectclass=inetorgperson)( objectclass =person))

推荐文章

热门文章

相关标签