Detection of Lies/Misinformation Based on Dynamic Epistemic Logic, and Application to a Game with Incomplete Information

基于动态认知逻辑的谎言/错误信息检测及其在不完全信息博弈中的应用

• 批准号: 21K17813
• 负责人: 野村 尚新
• 金额: $ 3万
• 依托单位: Japan Advanced Institute of Science and Technology (2022)Kwansei Gakuin University (2021)
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2023-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K17813/
• 关键词: 動的認識論理; 様相論理; 認識論理; 不完全情報ゲーム; 人工知能; 誤情報探知; 定理自動証明

本研究は、認識の変化を形式的に扱う論理である動的認識論理を用いて、これの発展体系として嘘や誤情報といった不確かな情報を形式的に扱うことを目的としている。昨年度は、OpenAI社のChatGPT（GPT-3, GPT-4）を筆頭に大規模言語モデルがあらゆる場面で話題を席巻した。それに伴いChatGPTの応答に見られるhallucinationとよばれる現象、偽情報をあたかも本当のことのようにアウトプットする現象（深層学習モデルに人間の意図に相当するものを持ち合わせていないが、端的に言えば虚情報）が多くの人に知られた。同様に、Deepfakeなどの映像や画像における生成系AIのめざましい発展と、それらが偽情報の作成に悪用され始めたことでインターネット上における嘘情報を見抜く必要性が広く認知された年であったと言える。また、ChatGPT（GPT-3、GPT-4）の驚異的な性能が本研究の研究手法にも影響を与えると考えている。たとえば、従来困難だった自然言語から論理式への変換作業を、GPT-3を適切な教師データでファインチューニングすることで容易にすることが可能である。そのため、昨年度は、この変換作業を通じて、SNSやブログなど特定の文脈で暗躍するチャットボットの嘘情報に対して、本研究の嘘探知の仕組みを適用できる可能性を検討した。GPTのファインチューニングを適切に活用することで、自然言語の論理式への変換や様相論理のモデル設計など、これまでの熟練者しかできなかった作業を容易化することができる。それに伴い、形式論理学の研究が実社会で応用される可能性が格段に高まったと言える。今後も生成AIを効果的に活用し、認識論理学の研究への応用可能性を見定めていきたい。

In this study, information technology in the form of information, information, Last year, the OpenAI ChatGPT (GPT-3, GPT-4) issued a large-scale model to discuss the current situation. With the help of ChatGPT, you should know that you should be aware of the situation, and that you should be aware of the situation that you should be aware of the situation. The portrait of the image of the same family, the Deepfake, the image, the image The performance of traditional Chinese medicine, ChatGPT (GPT-3, GPT-4). In this study, the methods of research, the effect and the performance of the research were tested. Please tell me that it is easy to tell you that it is easy to tell you that it is possible to tell you that it is possible to tell you that it is easy to say that it is easy to tell you that it is possible to do so, and that it is easy to tell you that it is possible to do so in GPT-3. In the past year, last year, and in the past year, there has been a general communication between the public and the public. In this study, we have explored the possibility that the staff members of the senior staff will be able to use the information in a secret way. In this study, we have explored the possibility that the staff members will be able to use the information. The GPT system is designed to make it easier for people who are familiar with the system to make it easier for them to improve their operation capacity. The study of "social science", "social science", "possibility", "high probability", "social science", "social science" and "social science". In the future, in order to generate the results of AI, we will study the possibility of use.

项目成果

議論フレームワーク上の正当性を示す負担に基づく論証評価方法

一种基于论证框架有效性证明责任的论证评估方法

• 发表时间: 2022
• 期刊: 人工知能学 会第120 回人工知能基本問題研究会（SIG-FPAI）議事録
• 作者: 野村尚新;高橋和子
• 通讯作者: 高橋和子

歴史記述の自動生成、及び、物語り論による哲学的基礎づけ

基于叙事理论自动生成历史描述和哲学基础

• 发表时间: 2021
• 作者: 野村尚新;高橋和子;野村尚新
• 通讯作者: 野村尚新

Hybrid Reasoning Using Weighted Bipolar Argumentation Framework for Legal Simulation

使用加权双极性论证框架进行法律模拟的混合推理

• 发表时间: 2021
• 期刊: The Proceedings of Fifteen International Workshop on Juris-informatics (JURISIN2021),
• 作者: K. Nishihana;S. Nomura;and K. Takahashi.
• 通讯作者: and K. Takahashi.