近十年来，基于核的正则化方法（KRM）被广泛应用于系统辨识中的稳定脉冲响应估计。与经典的最大似然/预测误差方法（ML/PEM）相比，该方法具有良好的性能，已通过大量仿真验证。最近，我们注意到一个令人惊讶的观察结果：对于一些数据集和核，无论如何调整超参数，正则化最小二乘估计都不能比最小二乘估计具有更高的模型拟合度，这意味着在这种情况下，正则化不能改善最小二乘估计。因此，本文重点研究如何理解这一观察结果。为此，我们首先介绍了平方误差（SE）准则，以及在最小化SE准则的意义上相应的oracle超参数估计量。然后我们找到了正则化不能改善LS估计的充要条件，并证明了这种情况发生的概率大于零。通过数值模拟证明了理论发现，同时，由于核矩阵、Gram矩阵或两者的病态性，阐明了概率接近于零的异常模拟结果。 

出版物：

Automatica，第160卷，2024年2月，111442

http://dx.doi.org/10.1016/j.automatica.2023.11442

作者：

穆必强

中国科学院数学与系统科学研究院系统与控制重点实验室，北京100190

电子邮件：bqmu@amss.ac.cn

Lennart Ljung公司

Link？电气工程系自动控制部林克平大学平58183，瑞典

陈天石

香港中文大学数据科学学院和深圳大数据研究所，中国深圳518172