线性代数学习笔记1_ls317842927的博客-程序员秘密

技术标签: 麻省理工  线性代数  数学  

本人机器学习小白一枚,目前认识到数学对于理解算法和应用算法到特定的数据集上太重要了。很喜欢MIT的线性代数课程,以MIT课程的内容为主,做一些学习总结。旨在于总结自己学过的知识、受到的启发、加强自己的逻辑性和对内容的理解。非常感谢网络上大牛们的MIT线性代数导论笔记,文末是链接。

1、线性方程
包含未知数 x1,x2,...,xn 的一个线性方程是形如 a1x1+a2x2+...+anxn=b 的方程,其中 b 与系数 a1,a2,...,an 是实数或复数,通常是已知数。下标 n 是任意正整数,实际问题中通常是几百,几千或更大。
注: 4x15x2=x1x2 x2=2x16 都不是线性方程,因为包含 x1x2 x1
2、线性方程组
线性方程组是由一个或几个包含相同变量 x1,x2,...,xn 的线性方程组成的。方程组所有可能的解的集合称为线性方程组的解集。两个线性方程组是等价的,当它们有相同的解集。
3、线性代数的基本问题就是解n个线性方程,n个未知数的方程组。
例如:包含两个未知数的两个方程组成的方程组

2xy=0

x+2y=3

求包含两个未知数的两个方程组成的方程组的解,等价于求两条直线的交点。当然两条直线不一定交于一个点,它们可能平行,也可能重合,重合的两条直线上的每个点都是交点。
线性方程组的解有三种情况: 无解、有唯一解、有无穷多解
分别对应下图
无解 唯一解 无穷多解
线性方程组的几何图像有两种,分别是行图像和列图像。上面的图像是行图像,而需要重点理解的是列图像。下面仔细解释下两种图像。
首先,将上述方程组写成矩阵形式,即把每一个变量的系数写在对齐的一列中,就是
二元方程组矩阵形式

其中 A= 系数矩阵被称为系数矩阵(coefficient matrix)。未知数向量通常记为 x= 未知数,而等号右侧的向量记为 b。线性方程组简记为 Ax= bAb通常是已知数。
行图像:一次取线性方程组的一行,也就是一个方程组,作图于xy平面。
行图像

列图像:在列图像中,我们将系数矩阵 A写成列向量的形式,寻找列向量的线性组合(linear combination)系数x,y来构成向量 b
列图像

向量线性组合是贯穿本课程的重要概念。对于给定的向量 cd 以及系数 x y ,我们将 x c+ y d称之为 cd 的一个线性组合。
从几何上讲,我们是寻找x 和y,使得两者分别数乘对应的列向量之后相加得到向量 这里写图片描述。其几何图像如下图。
列图像

想象一下如果任意取x,y,则得到的线性组合又是什么?其结果就是以上两个列向量的所有线性组合将会布满整个坐标平面。

下面扩展到包含三个未知数的三个方程组成的方程组。

三元方程组

每一个方程都是三维空间内的一个平面,方程组的解为三个平面的交点。从行图像的角度来看,三元方程组是否有解意味着什么?当方程所代表的三个平面相交于一点时方程有唯一解;三个平面中至少两个平行则方程无解;平面的两两交线互相平行方程也无解;三个平面交于一条直线则方程有无穷多解。
三元方程组的解

三元方程组的列图像

如果改变等号右侧的b 的数值,那么对于行图像而言三个平面都改变了,而对于列图像而言,三个向量并没有发生变化,只是需要寻找一个新的组合。
那么问题来了,是否对于所有的b,方程Ax=b 都有解?
从列图像上看,问题转化为“列向量的线性组合是否覆盖整个三维空间?”
反例:若三个向量在同一平面内——比如“列3”恰好等于“1”加“列2”,而若b 不在该平面内,则三个列向量无论怎么组合也得不到平面外的向量b。此时矩阵A 为奇异阵或称不可逆矩阵,因为A的列向量是线性相关的。在矩阵A 不可逆条件下,不是所有的b 都能令方程Ax=b 有解。(线性相关性,可逆矩阵,奇异矩阵之后的章节会介绍)
对n 维情形则是,n 个列向量如果相互独立——“线性无关”,则方程组有解。否则这n 个列向量起不到n 个的作用(即A的列向量是线性相关的),其线性组合无法充满n 维空间,方程组未必有解。
4、矩阵与向量的乘法
矩阵与向量的乘法

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/ls317842927/article/details/52350685

智能推荐

0480-如何从HDP2.6.5原地迁移到CDH5.16.1_cm hive 迁移 hdp_Hadoop_SC的博客-程序员秘密

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。Fayson的github:https://github.com/fayson/cdhproject提示:代码块部分可以左右滑动查看噢1文档编写目的我们常使用的Hadoop平台包括Apache Hadoop,CDH和HDP,有时我们会碰到需要迁移平台的情况,举个例子,比如你已经一直在使用Apa...

学习Swift:经验丰富的开发人员指南_cxu0262的博客-程序员秘密

因此,您的老板希望您学习iOS应用开发。 或者,也许您有一个要处理的应用程序侧项目。 你从哪里开始? 学习新平台和编程语言可能会令人生畏。 即使您尝试学习基础知识,也会不断发布新技术,从而很难保持最新状态。 感觉就像您在跑步机上跑步。 [构建移动应用程序的方法不止一种。 查看25个用于快速构建移动应用程序的简单工具 。 | 通过InfoWorld的App Dev Report新闻通讯了...

单链表头插法,尾插法,循环链表,(线性表单链表)_单循环链表尾部插入与单链表尾部插入区别_IC00的博客-程序员秘密

前言今天在学校学习了线性表里面的链表,老师讲解很到位,让人通俗易懂,学习嘛,总是需要记笔记的,好记性不如烂笔头,今天小编就把学到的知识捋一遍,做一个学习笔记分享给大家。不喜勿喷。。。。哈哈哈每天一遍,防止颓废1.让我们了解一下链表1.1 链表有单链表,双向链表,循环链表等等,不管什么链表都得会先创建链表,创建链表我们就得知道几个关键步骤。#mermaid-svg-iernhCbKdazpMkuK .label{font-family:'trebuchet ms', verdana, arial;

python爬取付费音乐包_python实现音乐播放和下载小程序功能_weixin_39991531的博客-程序员秘密

(本篇部分代码综合整理自B站,B站有手把手说明的教程)1.网易云非付费内容爬取器(声明:由于技术十分简单,未到触犯软件使用规则的程度)驱动Edge浏览器(自己写驱动会更高端)进入界面,爬取列表中第一个音频地址并存入相应文件夹中。这里有一个最简单的爬虫程序和一个最简单的tkinter GUI编程。注意,要先在网易云音乐网页中将第一个对应音频链接的位置定位:对于以上定位可通过如下方式获得(定位器):r...

CardView改变阴影颜色_cardview阴影颜色_az44yao的博客-程序员秘密

项目GitHub地址 :CardViewShadowColor CardView本身自带了灰色的阴影颜色,但是是不可修改的,而UI往往要求按钮的颜色是红色的就需要红色的阴影,在GitHub上搜索ShadowLayout等关键字,找到一些实现阴影的库,但有的效果不好,有性能有问题,会一直重绘,导致cpu及内存占用过高,界面卡顿,甚至OOM。 之前一直百思不得其解,为什么不让CardView能自定义阴影颜色呢,看了源码才搞清楚意图,我猜测有两个原因: 因为不想让使用者随便改变阴影颜色,.

yolov5从0开始训练自己的数据集_yolov5 权重过大_真我精彩的博客-程序员秘密

yolov4的热度还没有过去,yolov5就来了,但是,Yolov5并不是yolov4的作者开发的,是一个牛逼团队开发的,据这个团队在github上的介绍,yolov5速度更快,精确到更高,模型也只有几十兆到一百兆之间,瞬间觉得很牛逼呀,特意抽空跑了一下。 1 Yolov5环境配置首先配置python3.8,并且升级pip3到版本20.2以上 ...

随便推点

Matlab GUI编程技巧(八):uitoolbar在图窗中创建工具栏_matlab 图窗工具栏_左手の明天的博客-程序员秘密

运行环境:Matlab 撰写作者:左手の明天 精选专栏:《python》 推荐专栏:《算法研究》 大家好,我是左手の明天! 最近更新:2022 年 5 月 25 日,左手の明天的第245篇原创博客更新于专栏:Matlab GUI编程技巧工具栏是图窗窗口顶部的水平按钮列表的容器。uitoolbar函数在图窗中创建一个工具栏并在显示它之前设置任何必需属性。通过更改属性值,可以修改工具栏的外观和行为。使用圆点表示法引用特定的对象和属性。tb...

SQL中字符截取、拼接 、转换常用方法_sql 字段截取拼接_hyfstyle的博客-程序员秘密

mysql 中字符截取、拼接int类型截取字段 常用函数left()和right():例如day_id 是类似20190415的 int型数据,若要截取前六位获取201904:left(day_id,6)若要截取后四位获取0415 : right(day_id,4)string型截取字段 常用函数substing()和substr():例如day_id 是类似20190415的 str...

(面试)程序员面试总结汇总(待整理)_程序员面试结束总结_LittleHorseBRO的博客-程序员秘密

首先上帝是不会垂青一个不努力的人的!!!所以收起自己的侥幸心理吧总体:1简历简历简单得体,只需一页,一定要重点突出主要项目,C++/JAVA 等技能方面的东西最好在后边标注level(不擅长的写了解,擅长的写熟悉,真的有把握解决所有相关的技术问题才要写精通),不会的东西千万不要出现在简历上。2笔试笔试一定要准备充分,像C++的继承多态,内存分配和管理,计算机网络方面的知

percona toolkit 简介_数据库人生的博客-程序员秘密

os: centos 7.4 db: mysql 5.7 software: toolkit 3.0.8percona toolkit 是一款percona公司推出的优秀的开源的mysql分析工具。下载https://www.percona.com/software/database-tools/percona-toolkit https://www.percona.com/...

发现一个bug?_weixin_34192732的博客-程序员秘密

为什么80%的码农都做不了架构师?>>> ...

推荐文章

热门文章

相关标签