数据归一化常见算法

数据归一化的几种方法

1 Min-Max归一化

Min-Max归一化是一种线性的归一化方法。该方法将数据进行一次线性变换，将数据映射到[0,1]区间。Min-Max归一化不改变数据的分布。其缺点为，过度依赖最大最小数，且容易受到离群点、异常数据的影响。其公式为：
x ′= x−MinMax−Min x^\prime = \frac{ x – Min} {Max – Min} x′=Max−Minx−Min​
其中$x$是原始数据、$Min$为数据的最小值、$Max$为数据的最大值、 x′ x^\primex′是变换后的数据。

2 Z-Score归一化

Z-Score归一化将数据尽可能处理成符合正态分布的数据。该方法难以将数据映射到一个固定的区间上。Z-Score归一化的公式为：
x ′= x− x ‾Std x^\prime = \frac{ x – \overline{x}} {Std} x′=Stdx−x​

其中$x$为原始数据、 x‾ \overline{x}x为数据的均值、$Std$为数据的标准差

3 小数标定

通过直接除以一个整数，移动所有数据的小数点，进行数据归一化的方法，称之为小数标定归一化方法。该方法可将数据映射到[-1,1]区间。该方法的公式为：
x ′= x 1 0 j x^\prime = \frac{x} {10^j} x′=10jx​
其中，$j$为数据绝对值最大数据的位数。

4 Sigmoid

Sigmoid函数的表达式为：
F(x)= 1 1+ e −xF(x) = \frac{1} {1+e^{-x}} F(x)=1+e−x1​,其值域为[0,1].将所有数据经过Sigmoid映射以后，可以将数据映射到$[0,1]$区间。该函数图像如图所示：

5 RankGauss归一化

今天刚刚看到的，记录一下

def ScaleRankgauss(x, epsilon=1e-6): '''rankgauss'''x = x.argsort().argsort() #排序x = (x/x.max()-0.5)*2 #转换尺度到[-1,1]#调整极端值 把在[-1,1]区间之外的数值截断为-1或1x = np.clip(x, -1+epsilon, 1-epsilon)x = erfinv(x) #函数映射return xx = np.random.randint(0, 100, 1000)plt.hist(x)x_rankgauss = ScaleRankgauss(x)plt.hist(x_rankgauss, bins=50)