机器学习核方法模型选择与组合的核矩阵近似分析方法

项目名称： 机器学习核方法模型选择与组合的核矩阵近似分析方法

项目编号： No.61170019

项目类型： 面上项目

立项/批准年度： 2012

项目学科： 自动化技术、计算机技术

项目作者： 廖士中

作者单位： 天津大学

项目金额： 55万元

中文摘要： 如何避免欠拟合与过拟合，提高泛化性，是机器学习核方法理论研究和实际应用的重要问题，也是核方法模型选择与组合的基本问题。现有核方法研究没有给出机器学习本质意义的且计算高效的模型选择与组合方法，往往采用在核模型构造后利用测试数据或验证数据来优化模型参数的实验方法。本项目研究核方法模型选择与组合的核矩阵近似分析方法。首先，显式地构造稠密且计算高效的再生核希尔伯特空间(RKHS)和核矩阵空间，在此基础上细化积分算子谱与核矩阵谱的对应关系，给出从样本结构和算子-矩阵谱关系反演核矩阵的方法，分析核方法稳定性与核模型泛化性的关系。然后，推导并分析核矩阵近似误差与核方法稳定性的关系，进而定制出核方法模型选择与组合的评价准则。最后，设计核矩阵和评价准则高效的计算算法。该项目探索核矩阵近似计算与核方法泛化性之间的关系，发展核方法的核矩阵近似计算理论，并给出适用于大规模样本的核方法学习方法和评价方法。

中文关键词： 机器学习；核方法；模型选择与组合；逼近论；矩阵近似计算

英文摘要：

英文关键词： machine learning；kernel methods；model selection and combination；approximation theory；matrix approximation