基于非独立同分布数据的机器学习理论及其应用

经典的学习理论和算法都是建立在数据是独立(同分布) 的假设下, 而无论在理论上，还是实际应用上，数据是独立的假设都是非常强。基于此原因，在本项目中，我们研究了非独立同分布数据下机器学习算法的推广性能、收敛速率等机器学习理论，并对理论研究成果进行了应用研究。 主要研究内容包括：(1) 研究了混合序列下经验风险最小化算法、正则化算法的推广性能和收敛速率； (2) 因为混合序列的定义是概念性的，我们又研究了马氏链数据下经验风险最小化算法、支持向量机分类算法、正则化回归等算法的推广性能和收敛速率，建立了马氏链数据下机器学习算法最优的学习速率；(3) 对同时基于算法稳定性、空间复杂性来界定学习算法的推广性能进行了研究； (4) 在理论研究的基础上，我们提出了能明显改善经典的随机抽样下支持向量机分类、Fisher线性判别、正则化回归、在线支持向量机分类等学习算法学习性能的马氏抽样方法，并取得了比较好的基于实际数据的实验效果。到目前为止，我们已完成了项目的全部研究内容，达到了预期的研究目标。. 在本项目的资助下，我们已发表或接受待发表的相关研究论文13篇，其中IEEE Transactions regular paper 2篇，SCI二区（中科院2012年分区）收录论文2篇，SCI收录论文6篇，EI收录论文2篇，国内核心期刊论文1篇。