两向量差异的比较

点击量：291

最近遇到了比较两个向量差异的问题，主要纠结于 MSE 和 MAE 应该用哪个。同时还遇到了同一向量不同维度之间产生关联的问题。

如果要比较两个向量 $\boldsymbol n=(x_1,x_2,\ldots,x_k)$ 和 $\boldsymbol m=(y_1,y_2,\ldots,y_k)$ 的差异，我们大部分情况下会考虑曼哈顿距离和欧几里得距离。

曼哈顿距离=$|\boldsymbol n-\boldsymbol m|=\sum_{i=1}^k|x_i-y_i|$

欧几里得距离=$|\boldsymbol n-\boldsymbol m|=\sqrt{\sum_{i=1}^k(x_i-y_i)^2}$

其实把这个距离泛化就得到了闵可夫斯基距离=$|\boldsymbol n-\boldsymbol m|=\sqrt[p]{\sum_{i=1}^k(x_i-y_i)^p}$

此外还有切比雪夫距离=$|\boldsymbol n-\boldsymbol m|=\max_{i=1}^k|x_i-y_i|$（相当于$p\to+\infty$）

而两个向量之间的曼哈顿距离小，欧几里得距离就一定更小吗？

考虑 $L_1=|\boldsymbol n-\boldsymbol m|=\sum_{i=1}^k|x_i-y_i|$，$L_1$ 相等的位置构成了一个菱形；考虑 $L_2=|\boldsymbol n-\boldsymbol m|=\sqrt{\sum_{i=1}^k(x_i-y_i)^2}$，$L_2$ 相等的位置则构成了一个圆。

因此在上面这张图上，以菱形为参照，$L_1$ 不变，$L_2$ 随之变大缩小（此时 $L_2$ 为到原点的距离，那么越靠近坐标轴 $L_2$ 越大），以圆为参照，$L_2$ 不变，$L_1$ 随之变大缩小（此时 $L_1$ 为到原点的曼哈顿距离，越靠近坐标轴 $L_1$ 越小）。

那么既然沿着两个图形必有一个距离不变，那么可以选定一点，朝四个方向分别探究，当点往这个方向变化时的 $L_1, L_2$ 如何变化。

示例中

$$
L_1=|x|+|y|=2\\
L_2=\sqrt{x^2+y^2}=1.5
$$

解得一近似解 $x=1.354, y=0.646$，它向四个方向变化（微扰，因为并不是整个区域都满足变化的单调性）的结果分别如下。

向右上角移动，显然 $L_1$ 增大，$L_2$ 增大。

向左上角略微移动，可以发现会让 $L_1$ 些许增大，$L_2$ 稍有减小。

向左下角移动，显然 $L_1$ 减小，$L_2$ 减小。

向右下角略微移动，可以发现会让 $L_1$ 些许增减小，$L_2$ 稍有增大。

因此，$L_1(x)\prec L_1(y)$，并不能得出 $L_2(x)\prec L_2(y)$，反之亦不成立。