传播IB方法的研究

This project proposes a propagation Information Bottleneck (IB) method which aims at remedying the limitations of current solutions on multiple heterogenous data. It intends to solve important problems such as determining related model, generating propagation mechanism, adjusting a series of balance parameters, selecting deep measurement function, and practicality of application. Based on criteria such as multi-information and interactive-information, we model the relationship of the latent variables in propagation IB method and propose a framework for determining the pattern parameters. Propagation IB can make use of the correlation of hetergeneous data object and the hierarchy of pattern structure by constructing the information propagation mechanisms based on the factor graph structure. The adaptive LASSO method is used to get the values of a series of balance parameters in propagation IB. To measure the complex data hierarchical models by propagation IB, K-Nearest Neighbor estimation method is used to compute the mutual information of each layers and the mutual information between each layer and relevant variables in complex data models. As a result, the robustness of the deep measurement function can be guaranteed. We will apply propagation IB to various application fields, including the analysis of hidden information, the warning of multi-sensor surveillance and information recommendation, in order to find the common patterns in problems which are solvable by propagation IB. The original contributions include the research on propagation mechanism and the measurement of complex data model. The research therein on multiple heterogeneous data will extend the field of IB method application. The works in this project will fill the research gap in literature and further open a new page for IB method.

本项目针对现有IB方法处理多源异构数据存在的局限性，提出传播IB方法，拟解决相关模型确定、传播机制构建、综合平衡参数调整、深度度量函数确定及应用适用性等关键问题。基于多信息和交互信息度量，对传播IB方法相关模型中变量间关系进行建模，构建模式参数确定策略；以因子图结构为核心，构建信息传播机制，使传播IB方法充分考虑异构数据对象的关联性和模式结构的层次性；使用自适应LASSO求解传播IB方法中的综合平衡参数；基于传播IB方法度量复杂数据的层次模型，用K-近邻估计法计算复杂数据模型中各层间、各层与相关变量间的互信息，提高深度度量方法的鲁棒性；开展隐藏信息分析、多传感器监控以及信息推荐的应用研究，力图发现传播IB方法所适用问题的特征及规律。该项目在传播机制、复杂数据模型度量方面的研究是原创性的，对多源异构数据处理的研究将进一步拓展IB方法的应用范围。项目的相关研究力图将IB方法推向新的研究阶段。

项目针对传播IB方法及相关算法进行了深入的研究，超额完成了申报书中的任务，取得了丰硕的研究成果。1）在传播IB方法中信息传播模型及相关算法的研究方面，提出了基于关联关系传播IB模型、双层关联的传播 IB模型、融合异构特征的协作IB模型、联合个性和共性信息的传播IB模型、视觉上下文IB模型、多任务联合IB算法、面向高维共现数据的交互IB模型，并研究了相关的优化算法。2）在传播IB方法的权重学习研究方面，引入了不同的权重学习机制，提出了簇加权多视角IB算法、动态自动加权多视角联合IB聚类算法、基于内容和上下文的加权多视角IB聚类算法、双重加权的多视角IB聚类算法，实现了自动赋权和算法优化互相促进，从而提高了传播IB方法的有效性和灵活性。3）在传播IB方法中信息度量及互信息最大化研究方面，提出了深度互信息最大最小化方法、组约束信息最大化聚类方法、多任务图像聚类的深度相关性挖掘方法、异构双任务聚类方法、基于信息最大化的多任务视频聚类算法、聚类模式参数的确定算法。4）在传播IB方法的应用适应性研究方面，进行了传播IB方法在推荐系统、人群计数、多模态数据分析等方面的应用拓展研究，提出了相应的模型和相关算法，充分验证了传播IB方法的有效性和适应性。项目取得的研究成果发表在国内外重要会议或期刊上，如CVPR 2018、AAAI2021、SDM 2020、IEEE ICASSP 2020、IEEE Transactions on Image Processing、IEEE Transactions on Knowledge and Data Engineering、IEEE Transactions on Cybernetics、IEEE Transaction on Industrial Informatics、IEEE Transactions on Multimedia、Information Fusion、Pattern Recognition、ACM Transactions on Knowledge Discovery from Data、Information Sciences、Expert Systems with Applications、Knowledge-Based Systems、Applied Soft Computing、中国科学：信息科学、计算机学报等。

内容获取失败，请点击重试