加权最小二乘法（weighted least squares，WLS）是回归分析中的一种经典方法。顾名思义，加权最小二乘法是一种基于样本数据点的欧几里得距离（样本点与回归直线之间的距离）来求解回归系数的方法，和最小二乘法最大的不同在于加权最小二乘法在解决数据不均匀的情况下表现出更优秀的稳定性。
具体地说，在加权的最小二乘法中，我们可以利用数据的预处理来处理不均匀的数据，利用每个样本数据点对回归系数进行不同程度的调整。假设有n个样本数据点，其自变量和因变量为(x1,y1),(x2,y2)…(xn,yn)，预处理后的权重为(w1,w2)…(wn,wn)，我们可以采用线性代数方法来求解回归系数：Y=XB，其中Y是一个n×1的矩阵，表示n个样本点的因变量，B是一个2×1的系数矩阵，表示回归系数，X是一个n×2的矩阵，表示n个样本点的自变量经过处理（即X=[W^(1/2)*X]^T，其中^T表示转置运算，下同，W^(1/2)表示权重的平方根矩阵）。接着我们可以根据公式B_est = (X^(T)*W*X)^(-1)*(X^(T)*W*Y)，其中B_est表示估计的回归系数，(X^(T)*W*X)^(-1)表示X^(T)*W*X的逆矩阵，^(-1)表示矩阵的逆运算，这个公式实际上就是特殊的加权最小二乘法。
加权最小二乘法有广泛的应用，例如在正常分布的假设不成立的情况下，我们可以采用加权最小二乘法来处理异常数据点，得到更加准确的模型；在金融领域中，加权最小二乘法也经常被用来对股票进行风险评估，从而确定股票权重；在深度学习中，加权最小二乘法也经常被用来求解神经网络模型的参数。
