机器学习中的两类参数是什么？

关键要点

• 模型自身参数是模型内部固有的，不能直接指定，需通过训练数据学习得到。
• 超参数凌驾于模型自身参数之上，用于控制模型框架或训练过程，需在训练前手动设置。
• 逻辑回归的特征权重和偏置项是模型自身参数的例子。
• k近邻算法中的邻居数量k是超参数的例子。
• 调参通常指的是调整超参数。
• 交叉验证是评估超参数性能的一种实验方法。
• 通过交叉验证确定超参数后，需在整个训练集上重新训练最终模型。
• 最终模型应在独立的测试集上进行评估。

怎么选 / 怎么做

区分两类参数：
- 模型自身参数：由算法在训练数据上自动学习优化得到，如权重、偏置。
- 超参数：在模型训练开始前由人工设定，控制模型结构或学习过程，如k值、正则化系数。
调参主要指调整超参数，可通过交叉验证等方法评估不同超参数设置的性能。

常见问题

模型自身参数是什么？

模型内部固有，通过训练数据学习得到，如逻辑回归的权重。

超参数是什么？

训练前手动设置，控制模型框架，如kNN中的k值。

如何寻找合适的超参数？

可通过交叉验证等实验方法评估不同设置的性能。