权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Building a Commonsense Reasoning Model Considering Inference Process on Event Relational Knowledge

考虑事件关系知识的推理过程构建常识推理模型

基本信息

批准号：
22KJ1921
负责人：
大村和正
金额：
$ 1.09万
依托单位：
Kyoto University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2023
资助国家：
日本
起止时间：
2023-03-08 至 2024-03-31
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-22KJ1921/
关键词：
自然言語処理常識推論自然言語理解談話関係解析

项目摘要

深層学習の発展に伴い，計算機の自然言語処理能力は長足の進歩を遂げているが，計算機による常識推論は未だ困難であることが報告されている．本研究では，常識推論の中でも基本的な事態間の蓋然的関係(ある程度続けて起こりうる/真である事態間の関係)を推論する能力(以降，常識推論能力と呼ぶ)に焦点を当て，この改善とさらなる言語理解力の評価・改善を目標に手法の検討を進めている．本年度は，生のテキストデータから常識推論問題を模した疑似問題を大規模に自動生成し，これを訓練時に組み込むことによる常識推論能力の改善を試みた．また，常識推論問題および疑似問題からの転移学習による関連タスクへの効果を定量的に評価し，自然言語理解における蓋然的関係を推論する能力の重要性を検証した．実験の結果，常識推論問題および疑似問題を通して蓋然的関係に関する知識を大規模に学習することで，常識推論タスクおよび関連タスクにおいて全体的な改善が見られることを確認した．これは，自然言語理解における蓋然的関係を推論する能力の重要性を示唆していると考えられる．また，当初の研究計画では翌年度に事態間の蓋然的関係の推論過程を問う言語資源の構築を目標としていたため，翌年度の研究遂行に向けて，近年登場した大規模言語モデルに対して事態間の蓋然的関係の推論過程を問う予備実験を行った．実験の結果，大規模言語モデルは概ね妥当な推論過程を生成できる傾向が確認された．このため，翌年度は推論過程を問う方針で進めるのではなく，談話関係全般の推論能力の評価・改善を目標として研究を進める予定である．

The development of deep learning is accompanied by considerable progress in the natural speech processing capabilities of computers, and common sense inference in computers is difficult to report. This study focuses on common sense inference, basic probability relationships between events, inference ability, and improvement of speech comprehension. This year, we will try to improve our common sense inference ability by automatically generating problems on a large scale. To demonstrate the importance of inference ability in natural language understanding, quantitative evaluation of the results of correlational inference in common sense inference problems and suspected problems, and shift learning. Results of common sense inference problems and suspected problems are communicated, possibly related to knowledge, large-scale learning, common sense inference problems and related problems, and overall improvement. The importance of the ability to infer probable relationships in natural speech understanding is demonstrated. In the first year of the research plan, the inference process of the probable relationship between events was asked for the purpose of constructing speech resources. In the second year of the research, the inference process of the probable relationship between events was prepared for the large-scale speech resources. As a result of this, large-scale speech is not appropriate for inference processes. The next year, the inference process, the policy, the conversation, the relationship, the inference ability, the evaluation, the improvement, the purpose, the research, the determination.