確率的言語モデルによる教育理論の共通知識基盤構築

点击翻译按钮获取中文摘要

2022年度は以下の研究をおこなった。(1) 教育研究コーパス構築　昨年度に引き続き、教育に関する日本語の学術研究論文、科研費の研究課題情報、オープン教材（Open Educational Resources）、書籍情報を収集して、必要な前処理をおこない、テキストデータ（コーパス）の構築をおこなった。前処理には論文PDF等のレイアウト検出およびテキスト抽出、文字の正規化処理、必要な字句訂正が含まれる。(2) 図表からの情報の抽出　昨年度に引き続き、論文PDFから図表（画像を含む）を抽出した上で、そこから変数のテキスト情報を抽出するソフトウェアの開発をおこなった。(3) キーワードの抽出　昨年度に引き続き、各リソースからキーワードを抽出するソフトウェアを開発した。キーワードの同義語を検出するプログラムの開発をおこなった。既存のキーワード抽出手法にはそれぞれ特徴があるため、採用を一つに限らず利用することにした。また、キーワードの集計および視覚化をおこなった。(4) 概念および変数の抽出のための言語モデル構築 学術論文等を入力として、用いられる概念および変数名を抽出するための言語モデルを、BERT系のPretained Modelのファインチューニングによって構築を実験中である。(5) ChatGPTの評価 本研究における昨年度に発表されたChatGPTの評価と本研究課題における可用性について評価をおこなった。ChatGPT/GPT-4は極めて優秀な大規模言語モデルベースのサービスであるが、本研究課題における専門用語（概念）抽出タスクでは精度が十分ではなく、一方で埋め込みベクトル（embeddings）を本研究の成果と組み合わせることは有用であると評価している。