Knowledge Integration from Uncertain Infromation

不确定信息的知识整合

• 批准号: 17300043
• 负责人: SATO Taisuke
• 金额: $ 7.05万
• 依托单位: Tokyo Institute of Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (B)
• 财政年份: 2005
• 资助国家: 日本
• 起止时间: 2005 至 2007
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-17300043/
• 关键词: Probabilistic modeling language; PRISM; Variational Bayes; PROSM; 機械学習; 情報基礎; 統計数学; 情報システム; 人工知能

We have developed PRISM which is a symbolic-statistical modeling language designed for complex phenomena governed by logic and probability. A PRISM program defines a distribution on structured data such as strings, trees and graphs using definite clauses with probabilistic built-ins. The parameters contained in it are statistically estimated by the EM algorithm from data.PRISM 1.11, the latest version released in 2007 has the following features.(1) Efficient memory management due to B-Prolog7.0 on which PRISM is built.(2) Parallel EM learning. Empirically we have observed linear acceleration of learning speed w.r.t. the number of CPUs.(3) Deterministic annealing for EM learning.(4) Generalization of the Viterbi algorithm for N-Viterbi algorithm which returns N topmost answers.(5) VB (variational Bayes) is available. It is applicable to models that go beyond known models such as hidden Markov models.In particular VB is important because it enables us to add priors over parameter distributions to combat the data sparseness problem. We allow Dirichlet priors and VB estimate their hyper parameters from data. In addition, VB provides us with an approximation of marginal log-likelihood which is applied to model selection.

我们开发了PRISM，这是一种符号统计建模语言，专为逻辑和概率控制的复杂现象而设计。PRISM程序使用内置概率的确定子句定义结构化数据（如字符串、树和图）上的分布。其中包含的参数由EM算法从数据中进行统计估计。2007年发布的最新版本PRISM 1.11具有以下特性。(1) PRISM基于B-Prolog7.0进行高效的内存管理。(2)并行EM学习。根据经验，我们观察到学习速度随cpu数量的增加而线性加速。(3) EM学习的确定性退火。(4)将Viterbi算法推广为N-Viterbi算法，N-Viterbi算法返回N个最顶层答案。(5)可用变分贝叶斯（VB）。它适用于超越已知模型的模型，如隐马尔可夫模型。VB特别重要，因为它使我们能够在参数分布上添加先验，以解决数据稀疏性问题。我们允许狄利克雷先验和VB从数据中估计它们的超参数。此外，VB为我们提供了应用于模型选择的边际对数似然的近似值。

项目成果

頻出部分木発見手法を用いた遺伝的プログラミングの交通信号問題への適用

使用频繁子树发现方法将遗传编程应用于交通灯问题

• 发表时间: 2007
• 期刊: 人工知能学会論文誌 22・2
• 作者: 熊谷潤一;小島康夫;高重聡一;亀谷由隆;佐藤泰介
• 通讯作者: 佐藤泰介

Generative modeling with failure in PRISM

PRISM 中的生成建模失败

• 发表时间: 2005
• 期刊: 第19回人工知能国際大会(IJCAI2005)予稿集
• 作者: Sato;T.;Kameya;Y.;Zhou;N.-F.
• 通讯作者: N.-F.

PRISM:確率モデリングのための論理プログラミング処理系

PRISM：概率建模逻辑编程处理系统

• 发表时间: 2007
• 期刊: コンピュータソフトウェア 24
• 作者: 亀谷由隆;佐藤泰介;周能法;泉祐介;岩崎達也
• 通讯作者: 岩崎達也

PRISM : A Logic Programming Language and System for Probabilistic Modeling (in Japanese)

PRISM：一种逻辑编程语言和概率建模系统（日语）

• 发表时间: 2007
• 期刊: Computer Software Vol. 24
• 作者: Kameya;Y.;Sato T.;Zhou;N.-F.;Izumi;Y.;Iwasaki;T
• 通讯作者: T

Compiling Bayesian Networks by Symbolic Probability Calculation Based on Zero-suppressed BDDs

基于零抑制BDD的符号概率计算编译贝叶斯网络

• 发表时间: 2007
• 期刊: Proc. of 20th International Joint Conference of Artificial Intelligence IJCAI 2007
• 作者: Shin-ichi Minato;Ken Satoh;and Taisuke Sato
• 通讯作者: and Taisuke Sato