統計物理学的手法に基づくひずみありデータ圧縮のアルゴリズム開発

基于统计物理方法的失真数据压缩算法开发

• 批准号: 04J04453
• 负责人: 保坂 忠明
• 金额: $ 0.64万
• 依托单位: Tokyo Institute of Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2004
• 资助国家: 日本
• 起止时间: 2004 至 2005
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-04J04453/
• 关键词: ひずみありデータ圧縮; 統計力学; ビリーフプロパゲーション; 平均場近似; 誤り指数; パーセプトロン

2元定常無記憶情報源から発生する原情報に対するひずみありデータ圧縮のアルゴリズム開発を行った.符号化方法については先行研究において提案しているパーセプトロンを用いた符号化方法によっており,その符号化方法を確率推論アルゴリズムであるビリーフプロパゲーションによって実現した.ビリーフプロパゲーションは統計力学における平均場近似の解を効率的に探索するアルゴリズムと捉えることができる.ビリーフプロパゲーションによるアルゴリズムの定式化だけでは,アルゴリズムは望ましい挙動を示さないのであるが,そこに発見法的ではあるものの慣性項を加えることにより一部の条件下では,これまで情報理論の範疇で報告されている結果よりも優れた結果が得られた.しかしながら,全体としてみた場合は提案アルゴリズムは,その収束性と性能面において改善を要している.今後はビリーフプロパゲーション以外のアルゴリズム(Concave-Convex ProcedureやSurvey Propagation)などの適用も視野に入れつつ改良を考察したいと考えている.また,アルゴリズムの挙動の理論解析も取り組みたいと考えている.ひずみありデータ圧縮ではアルゴリズム開発以外の理論的性能評価の面で進歩が見られた.上記のパーセプトロンを用いた符号化に対する誤り指数評価は特別研究員に採用される以前に解析していたが,その誤り指数評価の枠組みをランダム符号化に対して適用することができ,情報理論で知られる誤り指数の最適表現を統計力学の手法で正しく再導出した.これにより,提案していた誤り指数評価の枠組みそのものの正当性が検証されたことになる.この成果については,裏面記載の学術雑誌にて発表した.今後は多元情報源のひずみありデータ圧縮や連続変数の場合などに拡張し、情報理論では得られていない結果を導出することを目的とする.

我们开发了一种用于失真数据压缩的算法，用于从二进制稳态内存源生成的原始信息。编码方法是在先前的研究中提出的，使用感知方法，编码方法是通过概率推断算法（信念传播）实现的。信念传播可以看作是一种有效地搜索解决方案以表示统计力学中的场近似值的算法。该算法并未通过仅使用信念传播来制定算法来显示出理想的行为，但是通过在某些条件下添加惯性术语，它的结果比以前报道的信息理论的结果更好。但是，当整体上视为一个整体时，所提出的算法需要改进收敛和性能。将来，除了信仰传播以外的算法（凹形）以外，我们想考虑改进，同时考虑程序和测量的应用（调查传播）。我们还想研究算法行为的理论分析。在与失真压缩的数据压缩中，除了算法开发以外的理论绩效评估方面，已经取得了进步。在采用特殊研究人员之前，对使用感知器进行编码的上述误差指数评估进行了分析，但是可以将错误索引评估的框架应用于随机编码，并使用统计力学方法正确地重新启用了信息理论中误差索引的最佳表示。这将验证提出的误差指数评估本身的框架的有效性。该结果已发表在背面的学术期刊上。目的是从多个来源和连续变量扩展到失真数据压缩，并得出信息理论未能获得的结果。

项目成果

Statistical Mechanical Approach to Error Exponents of Lossy Data Compression

有损数据压缩误差指数的统计机械方法

• 发表时间: 2005
• 期刊: Journal of the Physical Society of Japan Vol.74, No.1
• 作者: Rie TANAKA;Masahiro SUSA;Tadaaki Hosaka
• 通讯作者: Tadaaki Hosaka