权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

ニューラルネットワークモデルによる文脈と知識を用いた日本語対話システムの構築

使用神经网络模型构建使用上下文和知识的日语对话系统

基本信息

批准号：
20J23182
负责人：
村山友理
金额：
$ 1.6万
依托单位：
Ochanomizu University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-24 至 2023-03-31
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-20J23182/
关键词：
人工知能自然言語処理知識ベース質問応答 Neural Computer 対話

项目摘要

本研究では、記憶装置付きニューラルネットワークモデルによる構造化知識を用いた質問応答を行った。計算機の原理であるチューリングマシンをニューラルネットワークで模したDNC (Graves et al., 2016)に、Transformer (Vaswani et al., 2017)と知識利用・演算処理を行うアーキテクチャを組み込んだモデルを構築し、知識と演算を必要とする自然言語処理タスクを扱えるか検証を行った。3つのDNCモデル、vanilla DNC, rsDNC (Franke et al., 2018), DNC-DMS (Csordas et al., 2019)に知識メモリアーキテクチャとプロセッサアーキテクチャを追加し、実験を行い、背景知識や単純な算術演算と論理演算を必要とする質問応答タスクに対して効果を分析した。アメリカの地理に関する知識と演算処理を要求するGEOデータセット (Zelle et al., 1996)とそれを拡張したデータセットにおいて、BERT (Devlin et al., 2019)をファインチューニングした結果より、DNCモデルをベースにBERTと知識を扱うメモリと演算を行うユニットを追加した提案手法の結果がすべて平均top-1 accuracyと平均top-10 accuracyの両方で向上した。さらに、rsDNC を改良した提案手法はGEOデータセットにおける平均top-1 accuracyで最も良い結果を達成し、総合的にDNCより高いスコアを得た。

This study aims to explore the application of structured knowledge in memory devices. The principle of computer science is to develop a computer model (Graves et al., 2016)に、Transformer (Vaswani et al., 2017) Knowledge utilization, computation, processing, construction, knowledge, computation, natural speech processing, verification 3つのDNCモデル、vanilla DNC, rsDNC (Franke et al., 2018), DNC-DMS (Csordas et al., 2019) Knowledge, knowledge, knowledge GEO data processing requirements for geographic-related knowledge (Zelle et al., 1996), BERT (Devlin et al., 2019) The results of the proposed method are average top-1 accuracy and average top-10 accuracy. In addition, the proposed method of RSDNC is to achieve the highest average top-1 accuracy of GEO data and to integrate RSDNC data.