基于信息理论的机器学习目标与评价度量的研究

学习目标及评价度量选择是机器学习研究中的首要任务之一，但是如何为不同.学习机器问题或方法建立有效而合理的学习目标与评价准则仍旧是难点问题。本课题试图以.信息理论作为机器学习目标与评价准则进行研究，建立有效而合理的信息论学习目标与评价.准则，并探讨基于信息论的学习准则与传统性能指标的关联，独特性以及局限性。课题的研.究目标不是为了取代传统性能为指标的机器学习方法，而是为机器学习方法提出新的设计途.径和理论解释。.研究的重点包括机器学习中三个基本背景应用：聚类、分类与回归学习中基于信息理论的目标与评价度量研究。针对信息论本身存在许多种熵或散度定义，进行系统性研究并根据不同学习机器提出有效而合理的指标。在理论方法探讨基础之上，本课题将根据学界发布的真实问题数据进行方法验证工作。还将结合基于信息论学习目标方法应用到我们已有的植物动态生长过程建模研究中，并作出客观比较评价。