数学 | 机器学习中的线性代数

机器学习中的线性代数

线性代数的数学对象

1. 标量：标量只是一个单一的数字
2. 向量：向量是一个有序的数学数组，可以在一行或一列中
3. 矩阵: 矩阵是一个有序的二维数组，它有两个索引。一个指向该行，一个指向该列

线性代数基本计算规则

矩阵标量运算

如果一个矩阵加减乘除一个标量，那么这个矩阵的每一个元素进行数学运算

矩阵-矩阵加法和减法

矩阵-矩阵加法或者减法要求矩阵具有相同的尺寸，并且结果将是具有相同尺寸的矩阵。只需在第一个矩阵中添加或减去第二个矩阵的每个值及其对应的值

矩阵-矩阵点乘(点积)

矩阵-矩阵点乘要求是矩阵具有相同的尺寸，矩阵各个对应元素相乘

矩阵-矩阵相乘(叉乘)

如果第一个矩阵列的数量和第二个矩阵行数要相等，才能将矩阵相乘。结果矩阵具有与第一个矩阵相同的行数和第二个矩阵相同的列数

矩阵-向量乘法

看作矩阵-矩阵叉乘的特例

向量-向量乘法(列向量-行向量)

看着矩阵-矩阵叉乘的特例

向量-向量乘法(行向量-列向量)

看着矩阵-矩阵叉乘的特例

矩阵转置

第一列变成转置矩阵的第一行，第二列变成了矩阵转置的第二行，一个mn的矩阵被转换成为一个nm 的矩阵。