Deep Fake Impact Analysis on Human Perception

点击翻译按钮获取中文摘要

本研究は、ディープフェイクにおいて人がフェイクを本物と誤認する要素を分析し、結果として悪意のあるフェイクの拡散防止に貢献することを目的とする。かつて、画像や動画の加工は専門知識と高性能の機器・ソフトウェアが無ければ難しく、写真や動画の真正性は高いものであったが、現在ではハードウェアの高性能化とソフトウェアの進化によって、画像や動画の加工は一般化している。さらに、SNSや動画投稿サイトの利用者が著しく増加し、インパクトのある情報は正確性や真偽が十分に検証されないまま急激に拡散する。そのため、悪意や虚偽の情報を含んだ高度な技術を用いたフェイクが真実と誤認され広がった場合、深刻な影響が危惧されることから着想に至った。研究計画を推進する上で、本年度は先行研究、関連研究調査及び、既存のフェイクの中で重大な影響をもたらした事例などの情報収集に専念した。画像における信用評価では「画像そのもの」や「精度」は信用評価への関連性が低く、出所の信頼性やブランド力といった、画像に関連するコンテクストの方が信用評価への関連性が高いとされる。加えて、確証バイアスが強いものほど信用評価への関連性が高い傾向にある。本研究においても、その信用評価はフェイクに付帯するコンテクストに影響されると想定し、2023年度から本格的に実施する調査への基礎を築いた。また、ジェネレーティブAIが急拡大し、その可能性から社会に大きなインパクトを与えている。本研究と関連性が深い分野でもあるため情報収集を行った。