权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Building a Commonsense Reasoning Model Considering Inference Process on Event Relational Knowledge

考虑事件关系知识的推理过程构建常识推理模型

基本信息

批准号：
22KJ1921
负责人：
大村和正
金额：
$ 1.09万
依托单位：
Kyoto University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2023
资助国家：
日本
起止时间：
2023-03-08 至 2024-03-31
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22KJ1921/
关键词：
自然言語処理常識推論自然言語理解談話関係解析

项目摘要

深層学習の発展に伴い，計算機の自然言語処理能力は長足の進歩を遂げているが，計算機による常識推論は未だ困難であることが報告されている．本研究では，常識推論の中でも基本的な事態間の蓋然的関係(ある程度続けて起こりうる/真である事態間の関係)を推論する能力(以降，常識推論能力と呼ぶ)に焦点を当て，この改善とさらなる言語理解力の評価・改善を目標に手法の検討を進めている．本年度は，生のテキストデータから常識推論問題を模した疑似問題を大規模に自動生成し，これを訓練時に組み込むことによる常識推論能力の改善を試みた．また，常識推論問題および疑似問題からの転移学習による関連タスクへの効果を定量的に評価し，自然言語理解における蓋然的関係を推論する能力の重要性を検証した．実験の結果，常識推論問題および疑似問題を通して蓋然的関係に関する知識を大規模に学習することで，常識推論タスクおよび関連タスクにおいて全体的な改善が見られることを確認した．これは，自然言語理解における蓋然的関係を推論する能力の重要性を示唆していると考えられる．また，当初の研究計画では翌年度に事態間の蓋然的関係の推論過程を問う言語資源の構築を目標としていたため，翌年度の研究遂行に向けて，近年登場した大規模言語モデルに対して事態間の蓋然的関係の推論過程を問う予備実験を行った．実験の結果，大規模言語モデルは概ね妥当な推論過程を生成できる傾向が確認された．このため，翌年度は推論過程を問う方針で進めるのではなく，談話関係全般の推論能力の評価・改善を目標として研究を進める予定である．

The development of deep learning is a companion, the computer's natural language processing ability is greatly improved, and the computer's common sense inference is not difficult, and the computer's common sense inference is difficult to report. In this study, common sense inference is based on the basic and random relationship between states of affairs (the degree of the relationship between states of affairs). Strength (from now on, common sense inference ability) is the focus of attention, improvement of language comprehension is the evaluation of language comprehension, and improvement of target skills is the focus of attention. This year, the problem of common sense inference, the problem of doubt, the problem of large scale, is born Automatically generate し, これを training time に込むことによる improvement of common sense inference ability を test みた.また, common sense inference problem およびsuspected problem からの転 Transfer learning によるassociated タスクへのeffectをquantification The importance of natural language understanding, the importance of natural language understanding, and the importance of inference ability.実験のResults, common sense inference problemsおよびsuspicious problemsを通してGairan relationshipに关するknowledgeをlarge-scaleにlearningすることで, common sense inference タスクおよびrelated タスクにおいて overall improvement が见られることをconfirmation した.これは, natural language understanding におけるGai Ran's relationship を inference する ability and the importance of を show instigation していると test えられる.また, the original research plan for the following year, the inference process of the actual relationship between the events, the construction of language resources, the target, the following yearのResearch is carried out, and it has appeared in recent years. It is a large-scale speech and inference process about the relationship between events.実験のRESULTS, large-scale speech モデルはconcepts ね appropriate な inference process を generation できる tendencies が confirmation された.このため, the next year's inference process を ask う policy で progress めるのではなく, talk about the overall の inference ability の evaluation 価・improvement を goals として research を progress める predetermined である.