【人工智能】距离空间(最基本的数学模型)_距离空间圆-程序员宅基地

技术标签: 算法  基础理论  人工智能  

目录

一、说明

二、度量空间的意义

2.1 基于几何的定义

2.2 更抽象的距离问题

三、更广泛的距离空间定义

3.1  非物理意义的距离空间

3.2 代数学距离的定义

3.3  形形色色的距离模型

四、曼哈顿距离

4.1 曼哈顿距离定义

4.2 举个实际例子

4.3 下面证明,“曼哈顿距离”符合距离空间的定义。

五、欧几里得距离

5.1 欧氏距离定义

5.2 证明欧氏距离

5.2.1 首先柯西不等式

5.2.2 证明欧几里得距离          

六、闵可夫斯基距离

6.1 闵可夫斯基距离定义

6.2 闵可夫斯基距离证明

七、切比雪夫距离

7.1 切比雪夫距离定义

八、Hausdorff距离

九、单位圆 


一、说明

        纵观人类文明的历史,对事物性质的描述中,既然能用数,就说明有了“量”的概念;既然有了“量”就必然要解决,如何度量?量与量如何比较?这是无法回避的问题,距离空间就是度量空间,是“量”的具体化、关于度量的理论,本文将详细介绍各种度量机制的特点。

二、度量空间的意义

2.1 基于几何的定义

        距离空间是指将每个点之间的距离作为基本的度量方式来定义空间的一种数学结构。在距离空间中,任意两个点之间的距离都有明确的定义,而空间的形状和拓扑特征则由距离度量所决定。距离空间广泛应用于几何、分析、拓扑等领域,成为了研究空间性质的基本工具之一。

        在解析几何中,我们定义了欧几里得距离,那就是:

         在坐标平面中的两点A和B,它们的坐标为(X_A,Y_A)(X_B,Y_B),那么A和B的距离为:

                d(A,B) =\sqrt{(X_A-X_B)^2+(Y_A-Y_B)^2}

        度量空间最熟悉的例子是 3 维欧几里德空间,其通常的距离概念。其他众所周知的例子是配备角距和双曲平面的球体。 

2.2 更抽象的距离问题

        距离模型,是最基本的数学模型。换句话说,如果一个数学模型不符合距离模型,那么这个数学模型将毫无用途。可以说,任何规模事物的量化比较,都有距离空间的影子。以下给出几个距离的实例:

1)在下面照片的三个山头中,哪两个更为相似?

2)在下面音频序列中,能否识别出同一个语句?

 3)在曲线处理中,能否用更简单的数据近似表示?

三、更广泛的距离空间定义

3.1  非物理意义的距离空间

        度量可能对应于隐喻的而非物理的距离概念:例如,100 个字符的 Unicode 字符串集可以配备汉明距离,它测量需要更改的字符数才能从一个字符串到另一个。

        由于它们非常通用,度量空间是许多不同数学分支中使用的工具。许多类型的数学对象具有距离的自然概念,因此承认度量空间的结构,包括黎曼流形、赋范向量空间和图。在抽象代数中,p 进数作为有理数上度量结构完成的元素出现。在度量几何[2]和度量空间分析[3]中也对度量空间进行了研究。

        数学分析的许多基本概念,包括球、完备性以及均匀性、Lipschitz 和 Hölder 连续性,都可以在度量空间的设置中定义。其他概念,例如连续性、紧致性、开集和闭集,可以为度量空间定义,也可以在更一般的拓扑空间设置中定义。

3.2 代数学距离的定义

        定义:(度量空间)对于有序对(M,d),其中M为集合,d是定义在M上的度量(metric)函数,即为函数

                 d: M\times M \to \mathbb{R}

        对于任意 x, y, z \in \mathbb{M},下列条件成立:

                     1   d(x,y)\geqslant 0                (非负性)

                     2   d(x,y) = 0                那么x = y

                     3   d(x,y) = d(y,x)       (对称性)

                     4 d(x,y) \leq d(x,z) + d(y,z)       (三角不等式)

        对于任意的集合空间,它是否构成距离空间,换句话说,能否按照距离去度量,只要用以上定义进行

        因此,结论是:距离模型是多维向量到数量的一个映射函数。

        在数学中,度量空间是一个集合及其元素之间距离的概念,通常称为点。距离由称为度量或距离函数的函数测量。 [1]度量空间是研究许多数学分析和几何概念的最通用的设置。

   

3.3  形形色色的距离模型

        按照2.2 的定义,距离模型变得丰富多彩;二维空间内,有如下距离模型:

A, B \in \mathbb{M}

        1)曼哈顿距离: 那么 d(x,y) =\left | X_A-X_B \right | + \left | Y_A-Y_B \right |构成距离。

        2)欧几里得距离:d(x,y) = \sqrt[2]{ (X_A-X_B)^2 + (Y_A-Y_B)^2}

        3)闵可夫斯基距离:d(x,y) = \sqrt[s]{ (X_A-X_B)^s + (Y_A-Y_B)^s}

        4)切比雪夫距离:d(x,y) = \sqrt[ \infty ]{ (X_A-X_B)^\infty + (Y_A-Y_B)^\infty}

        5)  housdroff距离:

四、曼哈顿距离

        我们在学习计算机原理,常常遇到“曼哈顿距离”,曼哈顿距离是个啥?

4.1 曼哈顿距离定义

        有如下距离模型:若A, B \in \mathbb{M}

             那么 d(x,y) =\left | X_A-X_B \right | + \left | Y_A-Y_B \right |构成距离。

4.2 举个实际例子

        以上图说明曼哈顿距离:二维平面上,A坐标是(6,1),B点坐标(1,5),那么A到B距离函数为:

d(A,B)=5+4 =9 ;更加规范的表达是:

d(A,B)=|X_A-X_B| + |Y_A-Y_B|

4.3 下面证明,“曼哈顿距离”符合距离空间的定义。

        现在验证是否距离空间:

  • 非负性:d(A,B)=|X_A-X_B| + |Y_A-Y_B|\geq 0,  成立
  • 同一性:

                  \\d(A,B)=0,\Rightarrow A,B \;the\; same \\ A,A \;the\; same \Rightarrow d(A,A)=0,两点重合距离为

  • 对称性:d(A,B)=|X_A-X_B| + |Y_A-Y_B|=d(B,A)
  • 三角不等式:须证明d(A,B) \leq d(A,C) + d(C,B)验证如下:

\\d(A,B)=|X_A-X_B| + |Y_A-Y_B| \\ d(A,C)=|X_A-X_C| + |Y_A-Y_C| \\ d(C,B)=|X_C-X_B| + |Y_C-Y_B| \\

        只要证明目标不等式就可以了:

 |X_A-X_B| + |Y_A-Y_B| \leq |X_A-X_C| + |Y_A-Y_C|+|X_C-X_B| + |Y_C-Y_B| --(1)\\

 这里只验证X轴部分,同理推广到Y轴部分:

\\|X_A-X_C| \geq X_A-X_C ----1 \\ |X_A-X_C| \geq X_C-X_A----2 \\

\\|X_B-X_C| \geq X_B-X_C ----3 \\ |X_B-X_C| \geq X_C-X_B----4 \\

|X_A-X_C| +|X_C-X_B|\geq X_A-X_B(通过以上1、4合并得到)

|X_A-X_C| +|X_C-X_B|\geq X_B-X_A(通过以上2、3合并得到)

因此,|X_A-X_C| +|X_C-X_B|\geq |X_B-X_A|

同样有: |Y_A-Y_C| +|Y_C-Y_B|\geq |Y_B-Y_A|

因而以上(1)式成立,即曼哈顿距离符合距离空间。(证毕)

五、欧几里得距离

5.1 欧氏距离定义

        有如下距离模型:若A, B \in \mathbb{M}^d,设A=[a_1,a_2...a_d] \: \: \: \: B=[b_1,b_2,...b_d]

        欧几里得距离:d(A,B) = \sqrt[2]{ (a_1-b_1)^2 + (a_2-b_2)^2...+(a_d-b_d)^2}

         

5.2 证明欧氏距离

5.2.1 首先柯西不等式

 也就是A和B的内积,永远小于A和B模的乘积。

证明

1)对于两个维度的证明,假定A,B是二维,A=[a_1,a_2] \: \: \: B=[b_1,b_2]

要证a_1b_1+a_2b_2\leq \sqrt{a_1^2+a_2^2}\sqrt{b_1^2+b_2^2},只要:

(a_1b_1+a_2b_2)^2\leq ({a_1^2+a_2^2})({b_1^2+b_2^2}) 

 这很好证明,直接展开就可以了。

2)证明多维度扩展:如果n个维度成立,那么n+1维度也成立:

 假设以上不等式成立,那么:

 所以,从数学归纳法的角度,柯西不等式在任意维度上成立。

5.2.2 证明欧几里得距离

        首先说明:在A, B ,W\in \mathbb{M}^d,   d(A,B) = d(A+W,B+W)这是因为W是的A,B等长平移,因此距离不变。所以:

要证明的不等式为: d(A,B) \leq d(A,C) + d(C,B)

              d(A,C) = d(0,A-C)

          d(C,B) = d(0,B-C)

              d(A,B) = d(0,B-A)

令  U = A - C; \; \; \; \; V=B-C,因此,预期要证明:

d(A,B) \leq d(A,C) + d(C,B),等价于证明:

d(0,U+V) \leqslant d(0,U) + d(0,V),展开成坐标形式:

\sqrt{(u_1+v_1)^2+(u_2+v_2)^2...+(u_d+v_d)^2}\leqslant \\\sqrt{(u_1)^2+(u_2)^2...+(u_d)^2}+ \sqrt{(v_1)^2+(v_2)^2...+(v_d)^2}

两边都大于0;因此,不等式两遍可以平方;

(u_1+v_1)^2+(u_2+v_2)^2...+(u_d+v_d)^2 \leqslant [(u_1)^2+(u_2)^2...+(u_d)^2]+[(v_1)^2+(v_2)^2...+(v_d)^2]+ 2\times \sqrt{(u_1)^2+(u_2)^2...+(u_d)^2}\times \sqrt{(v_1)^2+(v_2)^2...+(v_d)^2}

消除等式两面相同项,简化不等式:

2(u_1*v_1) +2(u_2*v_2) ...+2(u_d*v_d) \leqslant 2\times \sqrt{(u_1)^2+(u_2)^2...+(u_d)^2}\times \sqrt{(v_1)^2+(v_2)^2...+(v_d)^2}

而这个不等式就是柯西不等式,原命题得证!

六、闵可夫斯基距离

6.1 闵可夫斯基距离定义

 有如下距离模型:若A, B \in \mathbb{M}^d,设A=[a_1,a_2...a_d] \: \: \: \: B=[b_1,b_2,...b_d]

闵可夫斯基距离:d(A,B) = \sqrt[s]{ (a_1-b_1)^s + (a_2-b_2)^s...+(a_d-b_d)^s}

其中s属于正整数。

6.2 闵可夫斯基距离证明

(因为证明很抽象,因此,读者按自己的程度,自行查阅)

七、切比雪夫距离

7.1 切比雪夫距离定义

 有如下距离模型:若A, B \in \mathbb{M}^d,设A=[a_1,a_2...a_d] \: \: \: \: B=[b_1,b_2,...b_d]

闵可夫斯基距离:d(A,B) = \sqrt[\infty ]{ (a_1-b_1)^\infty + (a_2-b_2)^\infty...+(a_d-b_d)^\infty}

切比雪夫距离

对于:d(A,B) = \sqrt[\infty ]{ (a_1-b_1)^\infty + (a_2-b_2)^\infty...+(a_d-b_d)^\infty}

取  L = max [ | a_1-b_1 |, { | a_2-b_2 | ...,|a_d-b_d| } ]

d(A,B) = \sqrt[\infty ]{( (a_1-b_1)^\infty + (a_2-b_2)^\infty...+(a_d-b_d)^\infty)\frac{L^\infty }{L^\infty }}

d(A,B) =|L| \sqrt[\infty ]{( (a_1-b_1)^\infty + (a_2-b_2)^\infty...+(a_d-b_d)^\infty)\frac{1 }{L^\infty }}

d(A,B) = |L|

八、Hausdorff距离

关Hausdorff距离有专题论述,这里给出链接: 基础理论:集合的Hausdorff距离_豪斯多夫距离_

九、单位圆 

        下面用各种距离构成单位圆:

  • 曼哈顿距离:红色
  • 欧几里得距离:绿色
  • 闵可夫距离:(N=3,4 )蓝色-黄色
  • 切比雪夫距离:紫色

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/gongdiwudu/article/details/128427470

智能推荐

分布式光纤传感器的全球与中国市场2022-2028年:技术、参与者、趋势、市场规模及占有率研究报告_预计2026年中国分布式传感器市场规模有多大-程序员宅基地

文章浏览阅读3.2k次。本文研究全球与中国市场分布式光纤传感器的发展现状及未来发展趋势,分别从生产和消费的角度分析分布式光纤传感器的主要生产地区、主要消费地区以及主要的生产商。重点分析全球与中国市场的主要厂商产品特点、产品规格、不同规格产品的价格、产量、产值及全球和中国市场主要生产商的市场份额。主要生产商包括:FISO TechnologiesBrugg KabelSensor HighwayOmnisensAFL GlobalQinetiQ GroupLockheed MartinOSENSA Innovati_预计2026年中国分布式传感器市场规模有多大

07_08 常用组合逻辑电路结构——为IC设计的延时估计铺垫_基4布斯算法代码-程序员宅基地

文章浏览阅读1.1k次,点赞2次,收藏12次。常用组合逻辑电路结构——为IC设计的延时估计铺垫学习目的:估计模块间的delay,确保写的代码的timing 综合能给到多少HZ,以满足需求!_基4布斯算法代码

OpenAI Manager助手(基于SpringBoot和Vue)_chatgpt网页版-程序员宅基地

文章浏览阅读3.3k次,点赞3次,收藏5次。OpenAI Manager助手(基于SpringBoot和Vue)_chatgpt网页版

关于美国计算机奥赛USACO,你想知道的都在这_usaco可以多次提交吗-程序员宅基地

文章浏览阅读2.2k次。USACO自1992年举办,到目前为止已经举办了27届,目的是为了帮助美国信息学国家队选拔IOI的队员,目前逐渐发展为全球热门的线上赛事,成为美国大学申请条件下,含金量相当高的官方竞赛。USACO的比赛成绩可以助力计算机专业留学,越来越多的学生进入了康奈尔,麻省理工,普林斯顿,哈佛和耶鲁等大学,这些同学的共同点是他们都参加了美国计算机科学竞赛(USACO),并且取得过非常好的成绩。适合参赛人群USACO适合国内在读学生有意向申请美国大学的或者想锻炼自己编程能力的同学,高三学生也可以参加12月的第_usaco可以多次提交吗

MySQL存储过程和自定义函数_mysql自定义函数和存储过程-程序员宅基地

文章浏览阅读394次。1.1 存储程序1.2 创建存储过程1.3 创建自定义函数1.3.1 示例1.4 自定义函数和存储过程的区别1.5 变量的使用1.6 定义条件和处理程序1.6.1 定义条件1.6.1.1 示例1.6.2 定义处理程序1.6.2.1 示例1.7 光标的使用1.7.1 声明光标1.7.2 打开光标1.7.3 使用光标1.7.4 关闭光标1.8 流程控制的使用1.8.1 IF语句1.8.2 CASE语句1.8.3 LOOP语句1.8.4 LEAVE语句1.8.5 ITERATE语句1.8.6 REPEAT语句。_mysql自定义函数和存储过程

半导体基础知识与PN结_本征半导体电流为0-程序员宅基地

文章浏览阅读188次。半导体二极管——集成电路最小组成单元。_本征半导体电流为0

随便推点

【Unity3d Shader】水面和岩浆效果_unity 岩浆shader-程序员宅基地

文章浏览阅读2.8k次,点赞3次,收藏18次。游戏水面特效实现方式太多。咱们这边介绍的是一最简单的UV动画(无顶点位移),整个mesh由4个顶点构成。实现了水面效果(左图),不动代码稍微修改下参数和贴图可以实现岩浆效果(右图)。有要思路是1,uv按时间去做正弦波移动2,在1的基础上加个凹凸图混合uv3,在1、2的基础上加个水流方向4,加上对雾效的支持,如没必要请自行删除雾效代码(把包含fog的几行代码删除)S..._unity 岩浆shader

广义线性模型——Logistic回归模型(1)_广义线性回归模型-程序员宅基地

文章浏览阅读5k次。广义线性模型是线性模型的扩展,它通过连接函数建立响应变量的数学期望值与线性组合的预测变量之间的关系。广义线性模型拟合的形式为:其中g(μY)是条件均值的函数(称为连接函数)。另外,你可放松Y为正态分布的假设,改为Y 服从指数分布族中的一种分布即可。设定好连接函数和概率分布后,便可以通过最大似然估计的多次迭代推导出各参数值。在大部分情况下,线性模型就可以通过一系列连续型或类别型预测变量来预测正态分布的响应变量的工作。但是,有时候我们要进行非正态因变量的分析,例如:(1)类别型.._广义线性回归模型

HTML+CSS大作业 环境网页设计与实现(垃圾分类) web前端开发技术 web课程设计 网页规划与设计_垃圾分类网页设计目标怎么写-程序员宅基地

文章浏览阅读69次。环境保护、 保护地球、 校园环保、垃圾分类、绿色家园、等网站的设计与制作。 总结了一些学生网页制作的经验:一般的网页需要融入以下知识点:div+css布局、浮动、定位、高级css、表格、表单及验证、js轮播图、音频 视频 Flash的应用、ul li、下拉导航栏、鼠标划过效果等知识点,网页的风格主题也很全面:如爱好、风景、校园、美食、动漫、游戏、咖啡、音乐、家乡、电影、名人、商城以及个人主页等主题,学生、新手可参考下方页面的布局和设计和HTML源码(有用点赞△) 一套A+的网_垃圾分类网页设计目标怎么写

C# .Net 发布后,把dll全部放在一个文件夹中,让软件目录更整洁_.net dll 全局目录-程序员宅基地

文章浏览阅读614次,点赞7次,收藏11次。之前找到一个修改 exe 中 DLL地址 的方法, 不太好使,虽然能正确启动, 但无法改变 exe 的工作目录,这就影响了.Net 中很多获取 exe 执行目录来拼接的地址 ( 相对路径 ),比如 wwwroot 和 代码中相对目录还有一些复制到目录的普通文件 等等,它们的地址都会指向原来 exe 的目录, 而不是自定义的 “lib” 目录,根本原因就是没有修改 exe 的工作目录这次来搞一个启动程序,把 .net 的所有东西都放在一个文件夹,在文件夹同级的目录制作一个 exe._.net dll 全局目录

BRIEF特征点描述算法_breif description calculation 特征点-程序员宅基地

文章浏览阅读1.5k次。本文为转载,原博客地址:http://blog.csdn.net/hujingshuang/article/details/46910259简介 BRIEF是2010年的一篇名为《BRIEF:Binary Robust Independent Elementary Features》的文章中提出,BRIEF是对已检测到的特征点进行描述,它是一种二进制编码的描述子,摈弃了利用区域灰度..._breif description calculation 特征点

房屋租赁管理系统的设计和实现,SpringBoot计算机毕业设计论文_基于spring boot的房屋租赁系统论文-程序员宅基地

文章浏览阅读4.1k次,点赞21次,收藏79次。本文是《基于SpringBoot的房屋租赁管理系统》的配套原创说明文档,可以给应届毕业生提供格式撰写参考,也可以给开发类似系统的朋友们提供功能业务设计思路。_基于spring boot的房屋租赁系统论文