AIの嘘を見破る「魔法の定規」！最新のAI文章検知テクニックがすごすぎる件

いや、全然違う。これはAIが書いた文章をどうやって見分けるかっていう、すごく真面目な研究だよ。

最近のAIは人間そっくりの文章を書くから、専門家でも見分けるのが難しいんだ。偽情報の拡散とか、宿題の代行とか、深刻な問題になってるんだよ。

「書き換え」を使うんだ。判定したい文章をAIにもう一度書き換えさせて、元の文とどれくらい変わったか、つまり「距離」を測るんだよ。

AIが書いた文章をAIが書き換えても、あんまり内容は変わらない。でも、人間が書いた文章をAIが書き換えると、AIっぽい表現に修正されるから、変化が大きくなるんだ。この差を利用するんだよ。

いい質問だね。これまでは「単語がどれくらい入れ替わったか」みたいな決まったルールで測ってたんだけど、それだと精度が低かった。この論文のすごいところは、その「距離の測り方」自体をAIに学習させたことなんだ。

そう、まさにそれ。幾何学的に言うと、AIの文章は特定の「部分空間」の中に収まっているんだ。人間が書いた文はその外側にある。だから、その空間の形に合わせて最適な距離を学習すれば、より正確に見分けられるってわけ。

驚くべき結果だよ。GPTやClaude、Geminiとかの最新AIで試したら、これまでの最強の手法よりも精度が最大で80%以上もアップしたんだ。100以上の異なる設定で試しても、ほとんどのケースで一番だったらしいよ。

そうだね。しかも、AIにどんな指示を出して書かせたか分からない場合でも、安定して検知できるのが強みなんだ。実用性がすごく高い。

……亜美さんの場合、AIよりも支離滅裂だから、距離を測るまでもなく人間だってバレると思うけど。

課題としては、判定に「書き換え」のステップが必要だから、少し時間がかかることかな。今後はもっと高速に、かつ巧妙な隠蔽工作にも負けない手法に進化させていく必要があるね。

その距離は、どれだけ学習しても縮まらないと思うよ。