Abstractive Neural Multi-document Summarization Considering Cross Document Structure
Abstractive Neural Multi-document Summarization Considering Cross Document Structure
批准号:
21H03495
负责人:
奥村 学
金额:
$10.98万
依托单位国家:
日本
项目类别:
Grant-in-Aid for Scientific Research (B)
财政年份:
2021
资助国家:
日本
项目状态:
已结题
起止时间:
2021-04-01 至 2024-03-31
中文摘要
点击翻译按钮获取中文摘要
英文摘要
テキスト内の文間の関係を解析する文書構造解析器は,我々のグループが世界最高性能を達成していたが,引き続き研究開発を継続し,新しい手法を提案することで,現在も世界最高性能を維持している.この分野の技術の進歩を明確にできるよう,既存の上向き,下向きの解析戦略と最新の事前学習済み言語モデルを組み合わせることで強いベースライン解析器を構築した.この解析器を評価した結果,解析戦略には大きな差がなく,トークンではなくスパンのマスキングを採用した事前学習済み言語モデルが有効であることが分かった.特に,DeBERTa を用いると世界最高性能を達成した.また,十分な量の学習データを確保できないことにより,文間の修辞構造解析の性能は文内と比較して大幅に低く,下流タスクにとって大きな問題となっている.これを解決するため,学習データを逆翻訳することで得た擬似正解データを用いて解析器を事前学習し,正解データを用いて追加学習する手法を提案した.シフト還元法による上向き解析器,スパン分割による下向き解析器に提案法を適用し,標準的ベンチマークデータセットであるRST-DT,Instr-DT を用いて評価した結果,疑似正解データを用いることで Standard-ParsEval のスコアが約 1-2 ポイント向上することを確認した.
期刊论文(8)
专著(0)
科研奖励(0)
会议论文
登录
查看更多内容
DOI:
10.26615/978-954-452-072-4_178
发表时间:
2021
期刊:
影响因子:
--
作者:
[Jingyi You;Chenlong Hu;Hidetaka Kamigaito;Hiroya Takamura;M. Okumura]
通讯作者:
Jingyi You;Chenlong Hu;Hidetaka Kamigaito;Hiroya Takamura;M. Okumura
DOI:
10.48550/arxiv.2210.08355
发表时间:
2022-10
期刊:
影响因子:
--
作者:
[Naoki Kobayashi;T. Hirao;Hidetaka Kamigaito;M. Okumura;M. Nagata]
通讯作者:
Naoki Kobayashi;T. Hirao;Hidetaka Kamigaito;M. Okumura;M. Nagata
逆翻訳を利用したデータ拡 張による文間の修辞構造解析の改善
通过使用反向翻译扩展数据来改进句子之间的修辞结构分析
DOI:
--
发表时间:
2022
期刊:
影响因子:
--
作者:
[前川在, 小林尚輝, 平尾努, 上垣外英剛, 奥村学]
通讯作者:
奥村学
言語モデルと解析戦略の 観点からの修辞構造解析器の比較
从语言模型和分析策略角度比较修辞结构分析器
DOI:
--
发表时间:
2022
期刊:
影响因子:
--
作者:
[小林尚輝, 平尾努, 上垣外英剛, 奥村学, 永田昌明]
通讯作者:
永田昌明
Neural RST-Style Discourse Parsing Exploiting Agreement Sub-trees as Silver Data
神经 RST 风格的话语解析利用协议子树作为白银数据
DOI:
10.5715/jnlp.29.875
发表时间:
2022
期刊:
Journal of Natural Language Processing
影响因子:
--
作者:
[小林尚輝, 平尾努, 上垣外英剛, 奥村学, 永田昌明]
通讯作者:
永田昌明
共 6 条
大規模事前学習モデルを活用した生成型複数テキスト要約に関する研究
-
批准号:24K02997
-
项目类别:Grant-in-Aid for Scientific Research (B)
-
资助金额:$11.65万
-
财政年份:2024
-
负责人:奥村 学
-
依托单位:
日タイブログを対象とした多観点言語横断ブログ検索
-
批准号:08F08365
-
项目类别:Grant-in-Aid for JSPS Fellows
-
资助金额:$1.28万
-
财政年份:2008
-
负责人:奥村 学
-
依托单位:
対話に基づく意見収集・分析システムの構築に向けて
-
批准号:18650031
-
项目类别:Grant-in-Aid for Exploratory Research
-
资助金额:$2.11万
-
财政年份:2006
-
负责人:奥村 学
-
依托单位:
blog上の意見分析のためのblogへの属性付与
-
批准号:18049025
-
项目类别:Grant-in-Aid for Scientific Research on Priority Areas
-
资助金额:$1.92万
-
财政年份:2006
-
负责人:奥村 学
-
依托单位:
検索結果の知的提示手法に関する研究
-
批准号:05F05281
-
项目类别:Grant-in-Aid for JSPS Fellows
-
资助金额:$1.15万
-
财政年份:2005
-
负责人:奥村 学
-
依托单位:
情報に対する注目と価値判断のモデル化
-
批准号:15650022
-
项目类别:Grant-in-Aid for Exploratory Research
-
资助金额:$2.11万
-
财政年份:2003
-
负责人:奥村 学
-
依托单位:
仮想世界のキャラクタを用いた動作生成と身体的理解の研究
-
批准号:02F00607
-
项目类别:Grant-in-Aid for JSPS Fellows
-
资助金额:$1.15万
-
财政年份:2002
-
负责人:奥村 学
-
依托单位:
Web上のテキストデータを対象とした複数テキスト要約に関する研究
-
批准号:14019036
-
项目类别:Grant-in-Aid for Scientific Research on Priority Areas
-
资助金额:$4.22万
-
财政年份:2002
-
负责人:奥村 学
-
依托单位:
自然言語処理技術を応用した外国語自習支援システムに関する研究
-
批准号:12040217
-
项目类别:Grant-in-Aid for Scientific Research on Priority Areas (A)
-
资助金额:$1.22万
-
财政年份:2000
-
负责人:奥村 学
-
依托单位:
談話情報付きコーパスの構築とそれを用いた談話解析に関する研究
-
批准号:08837009
-
项目类别:Grant-in-Aid for Scientific Research (C)
-
资助金额:$1.34万
-
财政年份:1996
-
负责人:奥村 学
-
依托单位:
音声対話理解のための言語解析手法に関する基礎的研究
-
批准号:07221207
-
项目类别:Grant-in-Aid for Scientific Research on Priority Areas
-
资助金额:$0.9万
-
财政年份:1995
-
负责人:奥村 学
-
依托单位:
音声対話理解のための言語解析手法に関する基礎的研究
-
批准号:06232208
-
项目类别:Grant-in-Aid for Scientific Research on Priority Areas
-
资助金额:$1.09万
-
财政年份:1994
-
负责人:奥村 学
-
依托单位:
音声対話理解のための言語解析手法に関する基礎的研究
-
批准号:05241206
-
项目类别:Grant-in-Aid for Scientific Research on Priority Areas
-
资助金额:$1.22万
-
财政年份:1993
-
负责人:奥村 学
-
依托单位:
算計機により日本語理解の高度化のための基礎的研究
-
批准号:03750265
-
项目类别:Grant-in-Aid for Encouragement of Young Scientists (A)
-
资助金额:$0.58万
-
财政年份:1991
-
负责人:奥村 学
-
依托单位:
計算機による意味理解の高度化のための基礎的研究
-
批准号:02750252
-
项目类别:Grant-in-Aid for Encouragement of Young Scientists (A)
-
资助金额:$0.7万
-
财政年份:1990
-
负责人:奥村 学
-
依托单位:
海外基金