Detection of Lies/Misinformation Based on Dynamic Epistemic Logic, and Application to a Game with Incomplete Information

基于动态认知逻辑的谎言/错误信息检测及其在不完全信息博弈中的应用

• 批准号: 21K17813
• 负责人: 野村 尚新
• 金额: $ 3万
• 依托单位: Japan Advanced Institute of Science and Technology (2022)Kwansei Gakuin University (2021)
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2023-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K17813/
• 关键词: 動的認識論理; 様相論理; 認識論理; 不完全情報ゲーム; 人工知能; 誤情報探知; 定理自動証明

本研究は、認識の変化を形式的に扱う論理である動的認識論理を用いて、これの発展体系として嘘や誤情報といった不確かな情報を形式的に扱うことを目的としている。昨年度は、OpenAI社のChatGPT（GPT-3, GPT-4）を筆頭に大規模言語モデルがあらゆる場面で話題を席巻した。それに伴いChatGPTの応答に見られるhallucinationとよばれる現象、偽情報をあたかも本当のことのようにアウトプットする現象（深層学習モデルに人間の意図に相当するものを持ち合わせていないが、端的に言えば虚情報）が多くの人に知られた。同様に、Deepfakeなどの映像や画像における生成系AIのめざましい発展と、それらが偽情報の作成に悪用され始めたことでインターネット上における嘘情報を見抜く必要性が広く認知された年であったと言える。また、ChatGPT（GPT-3、GPT-4）の驚異的な性能が本研究の研究手法にも影響を与えると考えている。たとえば、従来困難だった自然言語から論理式への変換作業を、GPT-3を適切な教師データでファインチューニングすることで容易にすることが可能である。そのため、昨年度は、この変換作業を通じて、SNSやブログなど特定の文脈で暗躍するチャットボットの嘘情報に対して、本研究の嘘探知の仕組みを適用できる可能性を検討した。GPTのファインチューニングを適切に活用することで、自然言語の論理式への変換や様相論理のモデル設計など、これまでの熟練者しかできなかった作業を容易化することができる。それに伴い、形式論理学の研究が実社会で応用される可能性が格段に高まったと言える。今後も生成AIを効果的に活用し、認識論理学の研究への応用可能性を見定めていきたい。

This paper studies the logic of knowledge transformation, the development system of knowledge transformation, and the purpose of knowledge transformation. Last year, OpenAI's ChatGPT (GPT-3, GPT-4) was written on a large scale. For example, if you want to know more about the topic, you can use the following method: In the same way, Deepfake is the image generation system of AI, which is used to create false information. The amazing performance of Chatta, GPT (GPT-3, GPT-4) was influenced by the research methods of this study. It's hard to get natural speech, it's hard to get logical speech, it's hard to get GPT-3, it's hard to get proper teacher speech, it's easy to get proper teacher speech. This paper discusses the possibility of applying the findings of this study to the study of social interaction, social interaction and social interaction. GPT's logic expression and phase logic are used appropriately to make it easier for skilled people to design and use GPT's logic expression and phase logic. The study of formal logic and social application is of high possibility. The possibility of using AI to generate results in the future and studying knowledge theory will be determined.

项目成果

議論フレームワーク上の正当性を示す負担に基づく論証評価方法

一种基于论证框架有效性证明责任的论证评估方法

• 发表时间: 2022
• 期刊: 人工知能学 会第120 回人工知能基本問題研究会（SIG-FPAI）議事録
• 作者: 野村尚新;高橋和子
• 通讯作者: 高橋和子

歴史記述の自動生成、及び、物語り論による哲学的基礎づけ

基于叙事理论自动生成历史描述和哲学基础

• 发表时间: 2021
• 作者: 野村尚新;高橋和子;野村尚新
• 通讯作者: 野村尚新

Hybrid Reasoning Using Weighted Bipolar Argumentation Framework for Legal Simulation

使用加权双极性论证框架进行法律模拟的混合推理

• 发表时间: 2021
• 期刊: The Proceedings of Fifteen International Workshop on Juris-informatics (JURISIN2021),
• 作者: K. Nishihana;S. Nomura;and K. Takahashi.
• 通讯作者: and K. Takahashi.