Learning Robust Word Representations for Natural Language Processing

学习自然语言处理的鲁棒词表示

• 批准号: 24800041
• 负责人: DUH Kevin
• 金额: $ 1.75万
• 依托单位: Nara Institute of Science and Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Research Activity Start-up
• 财政年份: 2012
• 资助国家: 日本
• 起止时间: 2012-08-31 至 2014-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-24800041/
• 关键词: 自然言語処理; 機械学習

Language is a highly productive phenomenon; new words and expressions are constantly being invented. Current Natural Language Processing techniques have difficulty handling new words, so their performance on real-world text suffers. To address this, we develop robust models of word semantics, focusing on Deep Learning methods for learning vector word representations. Furthermore, we show improvements in parsing and translation performance using systems that incorporate these word representations.

语言是一种高生产力的现象;新的词汇和表达方式不断被发明出来。 当前的自然语言处理技术很难处理新单词，因此它们在现实世界文本上的性能会受到影响。为了解决这个问题，我们开发了强大的单词语义模型，专注于学习矢量单词表示的深度学习方法。此外，我们展示了使用这些单词表示的系统在解析和翻译性能方面的改进。

项目成果

Modeling and Learning Semantic Co-Compositionality through Prototype Projections and Neural Networks

• 发表时间: 2013-10
• 期刊: Proceedings of the 24th International Conference on World Wide Web
• 作者: Masashi Tsubaki;Kevin Duh;M. Shimbo;Yuji Matsumoto

Modeling and Learning Semantic Co-Compositionality through Prototype Projection and Neural Networks

通过原型投影和神经网络建模和学习语义共组合性

• 发表时间: 2013
• 作者: M Tsubaki;K Duh;M Shimbo;and Y Matsumoto
• 通讯作者: and Y Matsumoto

An Empirical Investigation of Word Representations for Parsing the Web

• 发表时间: 2013
• 作者: Sorami Hisamoto;Kevin Duh;Yuji Matsumoto

Deep Learningの基礎と言語処理への応用 （チュートリアル）

深度学习基础知识及其在语言处理中的应用（教程）

• 发表时间: 2014
• 作者: 馬子驥;佐藤智紀;岡田実;古舘英樹;Kevin Duh
• 通讯作者: Kevin Duh

Adaptation Data Selection using Neural Language Models: Experiments in Machine Translation

• 发表时间: 2013-08
• 作者: Kevin Duh;Graham Neubig;Katsuhito Sudoh;Hajime Tsukada