3 线代知识

矩阵：常用大写字母表示$A, B, X\in \mathbb{R}^{2\times3}$

向量：维度为$n\times1$的矩阵。常用小写字母表示$a, b, x\in \mathbb{R}^{3}$

矩阵1为数据矩阵，矩阵2为参数矩阵（第i列表示第i个函数的参数），答案矩阵（第i列是用第i个函数得到的预测结果）

无交换律：$A\times B \ne B\times A$

有结合律：$A\times (B\times C)=(A\times B)\times C$

单位矩阵$I$，设$A\in \mathbb{R}^{m\times n}$, 有$A\times I_{n\times n}=I_{m\times m}\times A=A$

逆矩阵，只有方阵才可能存在逆矩阵，满足：$AA^{-1}=A^{-1}A=I$.没有逆矩阵的成为奇异矩阵或退化矩阵

转置：设$B=A^{T}, 满足B_{ij}=A_{ji}$