基于多目标函数改进的多核学习在半监督学习和迁移学习场景中的应用

论文摘要

核技术是近年来数据挖掘与机器学习领域的一个重要研究方向,其主要特点是通过核函数对样本之间的相似性进行构建,构造出样本的特征空间。在最近的核技术研究中,核学习作为一种最新的核技术而受到关注,与传统核技术不同,核学习通过最大间隔或标签配准等度量,动态的学习一个较优的核函数,从而获取更好的特征空间。这种动态性使得核学习构造的分类器能够获得比传统核技术更好的性能。然而,目前大部分的核学习方法都存在着一些明显的不足。首先,核学习算法的效率是不足的,输入数据的规模被算法的效率所限制;其次,很多算法假设的学习场景仅限于有监督的学习场景。半监督学习和迁移学习就是研究在训练集受到限制的情况下如何学习分类器的问题,一般的核学习在上述两种学习场景中的性能存在不足,这是由于传统的核学习技术并没有考虑到上述场景的特殊性。为了解决上述存在的问题,本文在当前核学习最新的研究基础上,通过扩展高效率的多核学习算法,构造出多目标函数下的核学习框架。在新框架中,一般的多核学习算法能够结合具体的目标函数,提高算法在特定场景中的性能。结合半监督学习场景和迁移学习场景,本文提出的算法具体实现了基于图拉普拉斯改进的多核学习算法和基于最大均值差异改进的多核学习算法。针对多个目标函数的优化问题特点,本文研究了各个目标函数之间如何选取较好的平衡。本文实验在收集自真实世界的数据上执行,实验结果表明,经过图拉普拉斯改进和最大均值差异改进的多核学习方法比一般的核技术在两种场景中有较好的性能,并且具有跟一些半监督学习算法和迁移学习算法的可比性。

论文目录

• 摘要
• ABSTRACT
• 第1章 引言
• 1.1 课题研究的背景与意义
• 1.2 核学习研究的现状与问题
• 1.3 本文的研究工作与贡献
• 1.4 论文组织
• 第2章 相关工作
• 2.1 核技术与多核学习
• 2.2 半监督学习与图拉普拉斯矩阵的应用
• 2.3 迁移学习与最大均值差异的应用
• 2.4 本章小结
• 第3章 基于多目标函数改进的多核学习框架
• 3.1 问题描述和定义
• 3.2 具体框架
• 3.3 框架在不同学习场景中的应用
• 3.4 目标函数之间的参数研究
• 3.5 本章小结
• 第4章 实验
• 4.1 数据集描述
• 4.2 实验设置
• 4.3 实验结果与分析
• 4.4 本章小结
• 第5章 总结与展望
• 5.1 研究成果
• 5.2 将来的工作
• 参考文献
• 附录
• 致谢