事象間関係知識の連続空間への埋め込みによる柔軟な推論機構の開発

通过将事件间关系的知识嵌入连续空间来开发灵活的推理机制

• 批准号: 19K20332
• 负责人: 井之上 直也
• 金额: $ 2.66万
• 依托单位: Japan Advanced Institute of Science and Technology (2022)Tohoku University (2019)
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-11-01 至 2025-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-19K20332/
• 关键词: 推論ルール; Wikipedia; ショートカット推論; 含意関係推論; 自然言語処理; 因果関係推論; 人工知能; 機械読解; 知識ベース; 推論; 埋め込み; 因果関係知識; 事前訓練済み言語モデル; 事象間関係知識; 常識推論

１．含意関係ツリーの生成技術: 課題2の推論技術の開発の一環として、与えられた自然言語文に対して、自然言語で書かれた知識ベースを用いて証明木を構築する方法を検討した。具体的には、大規模言語モデルを1ステップの事象間関係推論モデルとして用いて、アブダクティブに、１ステップずつ再帰的に証明を展開していく手法を検討した。既存の Entailment Bank (Dalvi et al. 2021) というデータセットを用いてその効果を検証した。２．推論ルールの分析技術: 課題2で開発する推論技術の内部挙動を分析できるようにするために、深層学習モデルから、そのモデルが予測に用いている推論ルールを抽出する方法を検討した (原口ら2023)。感情極性分析モデル、含意関係認識モデルを題材として、妥当な推論ルールが実際に抽出されていることを確認した。またこれらのルールの一部は、既存研究で指摘されているショートカット推論の知見とも一致することが分かった。３．推論技術のテストベッドの試作: 課題2で開発する推論技術の評価に向けて、自然言語により与えられた二つの事象間関係から、新たな事象間関係を推論する能力をテストするためのベンチマークデータセットの構築方法を模索した。具体的には、既存の大規模知識グラフである Wikidata から推移律的な推論ルールを抽出し、これと Wikipedia の記事を組み合わせるという方法を検討した。

1. Meaning masato is ツ リ ー の generation: subject 2 の inference technology の open 発 の link と し て and え ら れ た natural speech language に し seaborne て, natural speech で book か れ た knowledge ベ ー ス を with い て prove wood を build す る method を beg し 検 た. Specific に は, large-scale words モ デ ル を 1 ス テ ッ プ の things like masato between inference モ デ ル と し て in い て, ア ブ ダ ク テ ィ ブ に, 1 ス テ ッ プ ず つ 帰 に prove again を expand し て い く gimmick を beg し 検 た. Existing の Entailment Bank (Dalvi et al. 2021) と い う デ ー タ セ ッ ト を with い て そ の unseen fruit を 検 card し た. 2 Inference ル ー ル の analysis techniques: subject 2 で open 発 す る inference techniques の internal dynamic を 挙 analysis で き る よ う に す る た め に, deep learning モ デ ル か ら, そ の モ デ ル に が to test with い て い る inference ル ー ル を spare す る method を beg し 検 た (the original mouth ら 2023). Emotional polarity analysis モ デ ル, meaning masato know モ デ ル を subject と し て, appropriate な inference ル ー ル が be interstate に spare さ れ て い る こ と を confirm し た. ま た こ れ ら の ル ー ル の a は, existing research で blame さ れ て い る シ ョ ー ト カ ッ の ト inference knowledge と も consistent す る こ と が points か っ た. 3 Inference technology の テ ス ト ベ ッ ド の attempt: subject 2 で open 発 す る inference techniques の review 価 に to け て, natural speech に よ り and え ら れ た two つ among の things like masato か ら, new た among な things like masato を inference す る ability を テ ス ト す る た め の ベ ン チ マ ー ク デ ー タ セ ッ ト の constructing method を die line し た. Specific に は, existing の massive knowledge グ ラ フ で あ る Wikidata か ら な of law inference ル ー ル を spare し, こ れ と Wikipedia の chronicle を group み close わ せ る と い う method を beg し 検 た.

项目成果

An Empirical Study of Span Representations in Argumentation Structure Parsing

• DOI: 10.18653/v1/p19-1464
• 发表时间: 2019-07
• 作者: Tatsuki Kuribayashi;Hiroki Ouchi;Naoya Inoue;Paul Reisert;Toshinori Miyoshi;Jun Suzuki;Kentaro Inui

University College London(英国)

伦敦大学学院（英国）

一般性を考慮した言語処理モデルのShortcut Reasoningの自動検出

自动检测 Shortcut Reasoning，一种考虑通用性的语言处理模型

• 发表时间: 2023
• 作者: 原口大地;白井清昭;井之上直也
• 通讯作者: 井之上直也

R4C: A Benchmark for Evaluating RC Systems to Get the Right Answer for the Right Reason

• DOI: 10.18653/v1/2020.acl-main.602
• 发表时间: 2019-10
• 作者: Naoya Inoue;Pontus Stenetorp;Kentaro Inui

When Choosing Plausible Alternatives, Clever Hans can be Clever

• DOI: 10.18653/v1/d19-6004
• 发表时间: 2019-11
• 期刊: ArXiv
• 作者: Pride Kavumba;Naoya Inoue;Benjamin Heinzerling;Keshav Singh;Paul Reisert;Kentaro Inui