Bayesian Learning of a Hierarchical Representation of Language from Raw Speech
Bayesian Learning of a Hierarchical Representation of Language from Raw Speech
批准号:
260050394
负责人:
Professor Dr.-Ing. Reinhold Häb-Umbach
金额:
$0.0万
依托单位国家:
德国
项目类别:
Priority Programmes
财政年份:
2014
资助国家:
德国
项目状态:
已结题
起止时间:
2013-12-31 至 2017-12-31
中文摘要
这个项目的目标是从原始语音输入中学习语言的分层表示。在最底层,发现语音的声学构建块,音素或类似的子词单位,并为它们学习统计模型,而下一层涉及发现词汇构建块,单词,并学习它们的概率。最后,将从它们构建语义可解释的词类别。特别关注的事实是,自然语言的词汇原则上是无限的,而声音信号表现出极端的可变性。这两个问题将在贝叶斯范式中处理。为了允许词汇表随着输入数据量的增加而增长,将采用非参数贝叶斯统计,特别是那些基于Dirichlet和Pitman-Yor过程的统计,其中参数的数量不需要事先指定。语音输入的可变性导致声学单位发现阶段的歧义,通过避免对音素身份的过早决定和在联合概率模型中处理声学和词汇变量来解释,因此将开发有效的推理技术。虽然我们设想了语音处理领域的几种应用,但将要开发的联合或迭代分层贝叶斯学习框架也将对其他顺序和高度可变的感官输入数据的学习问题感兴趣。
英文摘要
The goal of this project is to learn a hierarchical representation of a language from raw speech input. At the lowest layer the acoustic building blocks of speech, the phonemes or similar sub-word units, are discovered and statistical models learned for them, while the next layer is concerned with the discovery of the lexical building blocks, the words, and learning their probabilities. Finally, semantically interpretable word categories will be built from them. Particular focus is placed on the facts, that the vocabulary in natural languages is in principle unlimited and that the acoustic signal exhibits extreme variability. Both issues will be approached in a Bayesian paradigm. To allow the vocabulary to grow with the amount of input data nonparametric Bayesian statistics, in particular those based on the Dirichlet and the Pitman-Yor processes, will be employed, where the number of parameters need not be specified in advance. The variability of the spoken input, leading to ambiguities at the acoustic unit discovery stage, is accounted for by avoiding premature decisions on the phoneme identity and treating acoustic and lexical variables in a joint probabilistic model, for which efficient inference techniques will be developed. While we envision several applications in the realm of speech processing, the joint or iterative hierarchical Bayesian learning framework to be developed will also be of interest to learning problems on other sequential and highly variable sensory input data.
期刊论文(3)
专著(0)
科研奖励(0)
会议论文
DOI:
10.21437/interspeech.2017-1262
发表时间:
2017-08
期刊:
影响因子:
--
作者:
[Thomas Glarner;Benedikt T. Boenninghoff;Oliver Walter;Reinhold Häb-Umbach]
通讯作者:
Thomas Glarner;Benedikt T. Boenninghoff;Oliver Walter;Reinhold Häb-Umbach
Full Bayesian Hidden Markov Model Variational Autoencoder for Acoustic Unit Discovery
用于声学单元发现的完整贝叶斯隐马尔可夫模型变分自动编码器
DOI:
10.21437/interspeech.2018-2148
发表时间:
2018
期刊:
影响因子:
--
作者:
[T. Glarner, P. Hanebrink, J. Ebbers, R. Haeb-Umbach]
通讯作者:
R. Haeb-Umbach
DOI:
10.1016/j.specom.2018.04.005
发表时间:
2018-05-01
期刊:
SPEECH COMMUNICATION
影响因子:
3.2
作者:
[Despotovic, Vladimir, Walter, Oliver, Haeb-Umbach, Reinhold]
通讯作者:
Haeb-Umbach, Reinhold
Coordination Funds
-
批准号:318726059
-
项目类别:Research Units
-
资助金额:$0.0万
-
财政年份:2016
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Source separation and noise reduction for automatic speech recognition in dynamic acoustic scenarios
-
批准号:316471544
-
项目类别:Research Grants (Transfer Project)
-
资助金额:$0.0万
-
财政年份:2016
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Sound recognition with limited supervision over sensor networks
-
批准号:318489874
-
项目类别:Research Units
-
资助金额:$0.0万
-
财政年份:2016
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Bayesian feature enhancement for large vocabulary speech recognition in the presence of noise and reverberation
-
批准号:235486169
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:2013
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Sparse Coding Approaches to Language Acquisition
-
批准号:200293401
-
项目类别:Priority Programmes
-
资助金额:$0.0万
-
财政年份:2011
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Ein integrierter Ansatz zur Störgeräuschunterdrückung und blinden Trennung von Sprachsignalen
-
批准号:193484692
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:2010
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Unsupervised audio-visual geometry calibration of distributed microphone arrays
-
批准号:166631756
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:2010
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Ein systematischer Ansatz zur Ausnutzung von Korrelationen aufeinander folgender Merkmalsvektoren in der automatischen Spracherkennung
-
批准号:61519056
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:2008
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Blinde adaptive akustische Strahlformung und Quellentrennung für einen sich bewegenden Sprecher in nichtstationärer akustischer Umgebung
-
批准号:21317402
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:2006
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Schätzung und Verwendung von weichen Merkmalsvektoren bei Spracherkennung über Telekommunikationssysteme
-
批准号:5418396
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:2004
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Sequentielle Monte Carlo Methoden zur datenbankbasierten Teilnehmerlokalisierung in Mobilfunknetzen
-
批准号:5430945
-
项目类别:Priority Programmes
-
资助金额:$0.0万
-
财政年份:2004
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Deep speech representation learning for research in phonetics
-
批准号:446378607
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:--
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
Automatic Transcription of Conversations
-
批准号:448568305
-
项目类别:Research Grants
-
资助金额:$0.0万
-
财政年份:--
-
负责人:Professor Dr.-Ing. Reinhold Häb-Umbach
-
依托单位:
国内基金
海外基金
登录
查看更多内容
Scalable Learning and Optimization: High-dimensional Models and Online Decision-Making Strategies for Big Data Analysis
-
批准号:--
-
项目类别:合作创新研究团队
-
资助金额:--
-
批准年份:2024
-
负责人:姚韬
-
依托单位:
Understanding structural evolution of galaxies with machine learning
-
批准号:
-
项目类别:省市级项目
-
资助金额:10.0万元
-
批准年份:2022
-
负责人:Nicola Rosario Napolitano
-
依托单位:
煤矿安全人机混合群智感知任务的约束动态多目标Q-learning进化分配
-
批准号:--
-
项目类别:青年科学基金项目
-
资助金额:30万元
-
批准年份:2022
-
负责人:吉建娇
-
依托单位:
基于领弹失效考量的智能弹药编队短时在线Q-learning协同控制机理
-
批准号:62003314
-
项目类别:青年科学基金项目
-
资助金额:24.0万元
-
批准年份:2020
-
负责人:沈剑
-
依托单位:
集成上下文张量分解的e-learning资源推荐方法研究
-
批准号:61902016
-
项目类别:青年科学基金项目
-
资助金额:24.0万元
-
批准年份:2019
-
负责人:万珊珊
-
依托单位:
具有时序迁移能力的Spiking-Transfer learning (脉冲-迁移学习)方法研究
-
批准号:61806040
-
项目类别:青年科学基金项目
-
资助金额:20.0万元
-
批准年份:2018
-
负责人:解修蕊
-
依托单位:
基于Deep-learning的三江源区冰川监测动态识别技术研究
-
批准号:51769027
-
项目类别:地区科学基金项目
-
资助金额:38.0万元
-
批准年份:2017
-
负责人:张大奇
-
依托单位:
具有时序处理能力的Spiking-Deep Learning(脉冲深度学习)方法研究
-
批准号:61573081
-
项目类别:面上项目
-
资助金额:64.0万元
-
批准年份:2015
-
负责人:屈鸿
-
依托单位:
基于有向超图的大型个性化e-learning学习过程模型的自动生成与优化
-
批准号:61572533
-
项目类别:面上项目
-
资助金额:66.0万元
-
批准年份:2015
-
负责人:孙雪冬
-
依托单位:
E-Learning中学习者情感补偿方法的研究
-
批准号:61402392
-
项目类别:青年科学基金项目
-
资助金额:26.0万元
-
批准年份:2014
-
负责人:秦继伟
-
依托单位: