在使用 K-近邻（k-NN）算法解决一个分类问题时，超参数

在使用 K-近邻（k-NN）算法时，K 值 对偏差和方差的影响如下：

• K 值很小（如 K=1）：

  • 模型对局部噪声敏感，容易过拟合（高方差）。

  • 决策边界复杂，训练误差小（低偏差）。

• K 值逐渐增大：

  • 决策边界趋于平滑，模型更稳定。

  • 对噪声的鲁棒性增强 → 方差减小。

  • 可能忽略细节，过度简化 → 偏差增大。

• K 值极大（如 K=N）：

  • 所有预测结果趋于相同（多数类或整体平均），模型欠拟合（高偏差、低方差）。

因此，随着 K 值从 1 增大到 N，变化趋势是：
偏差增大，方差减小。