权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

A Study on Context-aware Latent Variable Models for Neural Machine Translation

神经机器翻译上下文感知潜变量模型的研究

基本信息

批准号：
21K12031
负责人：
二宮崇
金额：
$ 2.66万
依托单位：
Ehime University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

令和4年度は、潜在変数を用いたコンテキストアウェアな機械翻訳の学習を目的として、1) 潜在ディリクレ配分法 (LDA) を用いたトランスフォーマーの研究、2) EMアルゴリズムを用いたバイリンガルサブワード分割の研究、3) 潜在拡散モデルを用いたマルチモーダル機械翻訳の研究、4) 階層型BARTによる生成型要約の研究を行った。1)について、潜在変数トピックモデルの有効性を確認するために、LDAにより与えられるタグを対訳文の先頭に付与して機械翻訳を行う手法を提案した。日英対訳コーパスASPECを用いた実験の結果、提案手法により翻訳精度BLEUが38.8%から39.0％まで向上することを確認できた。2)について、現在ほとんどの機械翻訳システムではトークン分割のためにサブワード分割が用いられているが、従来のサブワード分割は単言語を対象としていた。本研究では、ユニグラム言語モデルを基にして、2言語間のサブワードアライメントを潜在変数とするバイリンガルサブワード分割を提案した。サブワードの対応関係を学習するためにEMアルゴリズムを用いた。ASPECを用いた実験の結果、日英翻訳のBLEU値が26.7%から27.3%まで向上することが確認できた。3)について、潜在拡散モデルを用いることで、マルチモーダル機械翻訳に不要な画像情報を除去する画像変換を行う手法を提案した。Multi30kを用いた実験の結果、BLEU値が41.06%から41.20%まで向上することが確認できた。4)について、階層型モデルの有効性を確認するため、コンテキストアウェアな階層型BARTによる生成型要約の研究を行った。文レベルの情報と単語レベルの情報を階層的に融合するモデルを考案し、自動要約に適用した。実験の結果、要約精度ROUGEが40.88%から40.98%まで向上することが確認できた。

In the fourth year of this year, the purpose of mechanical inversion learning is to: 1) study on the use of latent extraction method (LDA); 2) study on the use of EM extraction method; 3) study on mechanical inversion of latent extraction method. 4) Research on hierarchical BART and generative offer. 1) The number of potential users is determined by the number of users. The accuracy of BLEU is 38.8% and 39.0% respectively. 2) In the middle of the game, the game is now divided into two parts: the game is divided into three parts: the game is divided into four parts: This study proposes a number of potential changes in the distribution of speech resources between different speech resources. The relationship between the two sides is not easy to understand. ASPEC's results were confirmed by BLEU values of 26.7% and 27.3% respectively. 3) To remove the image information, remove the image information, and propose the method of changing the image. Multi30k is used to determine the BLEU value of 41.06% and 41.20% respectively. 4) Research on the generative offer of hierarchical BART Text and text information, text and text information. Results and offer accuracy ROUGE is 40.88% and 40.98% respectively.