AIっぽさは機械で見分けられるのか。検出の仕組みと限界

検出の方式は大きく2つ

AI文章の検出ツールには、大きく分けて2つの方式があるようです。

• 統計方式: 文章全体の「予測のしやすさ」を測る。AIは確率的に自然な語の並びを選ぶため、人間より予測しやすい文章になる傾向を利用する、と説明されています。
• 表現辞書方式: AIが多用する言い回しをリスト化しておき、パターン照合で拾う。

海外製の判定サービスの多くは統計方式、Ningenizeは表現辞書方式です。

統計方式の性質

統計方式は文章全体を対象にできるのが強みですが、判定根拠が人間には見えません。
「AIらしさ82%」と言われても、どこを直せばいいのかは分からない。

また、誤判定の報告も少なくないようです。
型に沿って丁寧に書かれた人間の文章がAI判定される、という話は繰り返し指摘されています。
検出結果だけを根拠に文章の出どころを断定するのは、どの方式でも危ういのですが、統計方式は根拠を検証できないぶん、その危うさが残りやすい構造です。

表現辞書方式の性質

辞書方式の強みは、検出理由をそのまま示せることです。
「この表現はAIが多用する言い回しです」と該当箇所を指せるので、検出がそのまま推敲の入口になります。
照合するだけなので処理が軽く、ブラウザ内で完結できる（文章を外部に送らずに済む）のも、この方式を選んだ理由の一つです。

弱みも明確です。

• 辞書に載っていない癖は拾えない
• 辞書に載っている表現を、人間が普通に使うこともある

つまり、検出ゼロは「人間が書いた証明」にはなりませんし、検出ありは「AIが書いた証拠」にもなりません。

「判定」ではなく「推敲」の道具として

ここまでの話を並べると、どの方式でも「この文章はAI製か」を確定させることはできない、というのが実情のようです。

なのでNingenizeは、犯人捜しの道具ではなく推敲の道具として設計しています。
書いたのが人でもAIでも、AIっぽく見える表現が残っていれば読み手には同じように映る。
それを出す前に拾って、直すかどうかを書き手が判断する。
検出ツールの現実的な使い道は、結局この形に落ち着きます。