权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

形式意味論と言語処理の融合による構成的言語モデルの開発

结合形式语义和语言处理开发组合语言模型

基本信息

批准号：
20K19868
负责人：
谷中瞳
金额：
$ 2.5万
依托单位：
The University of Tokyo (2021-2022)Institute of Physical and Chemical Research (2020)
依托单位国家：
日本
项目类别：
Grant-in-Aid for Early-Career Scientists
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

文の意味を計算処理可能な形式で表し、文と文との意味的関係を判定する含意関係認識技術の実現は、計算機による人間らしい言語理解の実現に向けて解決すべき最重要課題である。近年、深層ニューラルネット(DNN)を用いた含意関係認識の研究が盛んに行われているが、文の構成的な意味におけるDNNの表現力は明らかではなく、未知のデータに対する頑健性が不透明である。本研究では、DNNの文の構成的な意味における表現力を明らかにするとともに、表現力の改善を目指す。本年度は、【研究課題1】文の構成性原理に基づく言語モデルの評価システムの開発と【研究課題2】データ拡張と学習アルゴリズムの改良による構成的言語モデルの開発について、主に次の2つの成果を得た。研究成果1. DNNが日本語の構成的な意味を理解しているか評価する含意関係・類似度ベンチマークJSICKの開発前年度までは英語を中心にDNNの推論の体系性を分析する手法を開発してきたが、英語以外の言語を含めてDNNの言語理解能力を分析する手法が求められている。そこで、英語の語彙的、統語的、意味的な言語現象の構成的な組み合わせの理解を必要とする含意関係・類似度ベンチマークSICKを人手で日本語に翻訳し、さらに日本語の特性を考慮して語順や助詞を入れ替えた問題を追加した日本語の含意関係・類似度ベンチマークJSICKを構築し、一般公開した。JSICKを用いた分析によって、現在の汎用言語モデルは日本語の助詞の扱いに課題があるが、データ拡張によって改善する可能性が示唆された。研究成果2. 日本語の時間的順序を考慮した論理推論システムの構築形式意味論の知見に基づいて日本語文の意味を構成的に表し、時間的順序に特化した推論システムを構築した。構築したシステムは現在のDNNを用いた推論システムよりも高い精度で時間的順序に関する含意関係認識が行えることを示した。

Wen の mean を computing 処 principle may form なで table し, wen ととの mean masato is を determine する implications masato department know technology の be は now, computer による human らしい speech understanding の be am に to けて solve すべでき is the most important topics ある. In recent years, deep ニューラルネット (within DNN) をいた implications masato が sheng know の study んに line われているがな means of wen のにおける within DNN の expressive は Ming らかではなく, unknown のデータにす seaborne る operations, sexual が opaque である. This study では, の within DNN の constitute な mean における expressive を Ming らかにするとともに, expressive の improve を refers す. This year は, research topic 1 】【の constructive principle に base づく words モデルの review 価システムの open 発とデ research topic 2 】【ータ company, zhang と learning アルゴリズムの improved による constitute words モデルの open 発について, main にの 2 つの results をた. Research Results 1 Within DNN が Japanese の constitute な mean を understand しているか review 価する implications masato, similar degree ベンチマーク JSICK before opening 発の annual までは English を center にのの inference system within DNN sex を analysis する gimmick を open 発してきたが, English words のをめての speech comprehension を analysis within DNN すめる gimmick が o られて Youdaoplaceholder0 る. そこので, English vocabulary and language system, means of な speech phenomenon のな group み close わせを necessary のとする implications masato, similar degree ベンチマーク SICK でを hand Japanese に turn 訳し, さらに Japanese の features を consider して language suitable や partical を into れ for えた problem を additional した Japanese の implications masato, similar degree ベンチマ Youdaoplaceholder0 を construction を, general public た. JSICK を with いた analysis によって, now の universal words モデルは Japanese の partical の Cha いに subject があるが, データ company, zhang によって improve すがる possibility in stopping された. Research 2. Japanese の time sequence を consider した logical inference システムのの building form significance theory knowledge に base づいてに table of Japanese language の mean をし, time sequence に specialized した inference システムを build した. Build したシステムはの now within DNN を with いた inference システムよりも high precision いで time order に masato する implications masato line department know がえることを shown した.