デマを判別する「モダリティ」
2025年07月度、日本システム監査人協会九州支部の月例会に出てきました。
今日のテーマはセキュリティでしたが、中々面白いお話を聞くことができました。
全部を話していると長くなりすぎるので、私が一番面白いと思ったお話を紹介したいと思います。
※この記事では下記の内容を参考にしています。
NICTサイバーセキュリティシンポジウム2025
https://www2.nict.go.jp/csri/nict_cyber2025/
デマの検知に向けたモダリティの活用の検討
https://www2.nict.go.jp/csri/nict_cyber2025/Presentation%20materials_akira-huzita.pdf
『SNSで偽情報が拡散』、『首相の顔を用いたフェイク動画が発見される』。
皆さんも、このような「SNSのデマ」のニュースを聞いたことがあると思います。
このような「デマ」は、もはや社会的な脅威となりつつあります。
能登地方の震災でも、様々なデマが飛び交い、救助活動に支障をきたしたと言われています。
単なる嘘やイタズラでは済まないレベルです。
これに対して、今日聴講した講演では「モダリティ」という概念で、SNSなどの情報の中からデマを特定する試みが発表されていました。
「モダリティ」というのは言語学の言葉だそうですが、『話者の心理的態度を示すもの』と定義されているそうです。
どういうことか、実際に聴講した講演の例で説明します。
（例の出典：NICTサイバーセキュリティシンポジウム2025 継～つづけるセキュリティ、つなぐセキュリティ～ 講演資料「デマの検知に向けたモダリティの活用の検討」 P.5より引用）
『新型コロナウィルス対策として、すぐに緑茶を飲んでください！！』
こんな謳い文句があったとします。
この文章には、言語学的に2つの要素が含まれています。
ひとつは「命題内容」。
叙述する事物や事象を表したもので、ここでは『新型コロナ対策として緑茶を飲む』という要素になります。
誰かの思想や感情がない、ただ単に事象を述べただけの部分ですね。
一方で、先の謳い文句には話者の思い（＝心理的態度）がにじみ出ている箇所があります。
それが、『すぐに』『ください』『！！』という部分です。
『すぐに』というのは、相手を急かしたいという話者の思いの表れです。
『ください』というのは、相手に行動してい欲しいという話者の思いの表れです。
『！！』という部分は、文章を強調して印象に残したいという話者の思いの表れです。
このように、いずれも話者の思いが表れています。
これがもうひとつの要素、「モダリティ」です。
「モダリティ」には様々な種類がありますが、講演では一例として次のようなものが紹介されていました。
「認知的」：『～かもしれない』
「証拠的」：『～だそうだ』『～らしい』
「義務的」：『～した方がいい』
「力動的」：『～できる』
SNSなどで発信される情報には、こういったモダリティ、つまり、話者の思いがにじみ出ていると考えられます。
そこで、講演をされたグループでは、『SNSの投稿のモダリティを検証することで、デマに見られる特徴的なモダリティのパターンを検出できるのではないか』という着眼点で研究されたとのことでした。
途中の説明は紙面の都合で割愛させていただきますが、結論としては、『ある種のデマのモダリティには特徴がみられる』というものでした。
例として挙げられていたのは、『～かもしれない』という推量的な表現（推測）です。
具体的には、『ミスリード（誤解）を誘おうとする投稿』において、推測のモダリティの出現割合が特に高かった、というものです。
一方で、ミスリードではなく、本当に間違いであることを述べている『事実ではないことを述べる投稿』では、推測のモダリティは高くなく、先の『ミスリードを誘おうとする投稿』とは有意に（明らかに）差があるとのことでした。
つまり、この2つの結果から、『間違いを指摘する投稿では、推測の表現が用いられているかどうかが、デマの判別に役立つ』という結論が導かれます。
これが、モダリティによるデマの検出です。
他にも「いいね」や「ブックマーク」の数などに関する研究結果も発表されたのですが、詳しくは同資料をご参照ください。
以上が講演の概要になります。
どうでしょう？
興味をそそられませんか？
私はとても興味があります。
私が一番面白いと思ったのは、「モダリティ」には文章の命題内容は一切含まれないという点です。
先に述べた通り、命題内容というのは文章の主題です。
『新型コロナ対策として緑茶を飲む』
これが命題です。
話者として何をしてほしいかなどの具体的な話の中身は、すべてこちらに詰まっています。
一方で、この研究で対象としているモダリティには、話の中身は一切ありません。
『すぐに』『ください』『！！』
これだけでは、何の話かさっぱり分かりません。
ですが、重要なのはこのモダリティのほうだと言っているわけです。
文章の内容を精査しなくても、モダリティを精査すれば、デマかどうか判別できる（可能性がある）と言っているわけです。
面白くないですか？
怪しげな理論とか胡散臭い理由とかを検証して否定する必要はないのです。
どんなモダリティで語っているかを見ればいいのです。
これなら、自然言語モデルを組み合わせて、コンピュータでも処理が可能です。
つまり、この研究が進めば、『デマを振るい落とすフィルター』のような機能が実現できるというわけです。
さすが言語学。
餅は餅屋ですね。
もちろん、まだまだ研究は必要なのでしょうが、社会問題を解決しようという試みは素晴らしいと思います。
それに、研究グループはデマを対象に行っていますが、言語を使って表現している箇所ならば、あらゆるところで応用できる幅広さも持ち合わせていると思います。
言ってしまえば、私のこの記事だって、一文一文が「命題内容」と「モダリティ」に分解できます。
もしかしたら、間違いを指摘する箇所で『～かもしれない』と言ってるかもしれません。
なんと恐ろしい。
自分でも気づかないうちにミスリードを誘っていたなんて……。
無論、実用するには、そのような『ミスリードを誘う意図ではないが、「～かもしれない」を使っている文章』が「デマ」と判別されないような工夫も必要です。
あくまでも、『デマである可能性が高い』という情報提示に留めるのか、他のモダリティを検証することで回避するのか。
今はまだその方法は分かりませんが、いずれ実装されるときには対策がなされることでしょう。
ぜひとも、デマが判別できるようになってほしいですね。
それでは、そもそもSNSを使っていないのでデマも何もない、山本慎一郎でした。