賢いAIは「まとめ上手」？圧縮と知能の意外な関係

……。いや、その圧縮じゃない。これはAIが世界をどれだけ効率的に理解して、短い言葉やデータにまとめられるかっていう話だよ。でも、あながち間違いでもないかな。複雑な情報を本質だけ抜き出して小さくまとめる能力は、確かに知能そのものだからね。

そう。この論文では、昔からあるJPEGみたいな「視覚コーディング」と、最近のAIが画像を見る時に使う「視覚トークン」っていう2つの技術を、一つの理論でまとめようとしているんだ。

食べられないよ。トークンっていうのは、AIが画像を処理しやすいように細かく分けた「意味の塊」のことだ。例えば、写真の中の『猫の耳』とか『背景の空』とかを、AI専用の記号に変換するイメージだね。

いい質問だね。昔の圧縮は「人間が見て綺麗か」を大事にして、ピクセルを正確に再現しようとする。でもAIのトークンは「AIがタスクを解くのに役立つか」を大事にするんだ。だから、背景の細かい砂利とかはどうでもよくて、『そこに何があるか』っていう意味を優先して残すんだよ。

……例えは独特だけど、まあそうだね。この論文は、その「見た目重視」と「中身重視」の技術を、数学的に同じ「情報の削り方の問題」として統一して扱おうとしているのがすごいところなんだ。

お互いのいいとこ取りができる。例えば、JPEGのすごい圧縮効率をAIトークンに取り入れれば、AIがもっと少ない計算量で賢くなれるし、逆にAIの技術を動画圧縮に使えば、めちゃくちゃ低画質な動画でもAIが綺麗に補完してくれるようになる。

うん。マルチモーダルモデルとか画像生成AIで試したところ、この統一的な考え方でトークンを圧縮すると、性能を落とさずに計算コストを大幅に減らせることがわかったんだ。ロボットが周りの状況を判断する「Embodied AI」っていう分野でも効果があったみたいだよ。

論文では、将来的に「AI専用の標準的な圧縮規格」ができるかもって言ってる。今の動画にH.264っていう共通規格があるみたいに、どんなAIでも使える『超効率的なトークン』が標準化されるかもしれない。そうなれば、AIの通信や処理がもっと爆速になるはずだ。

もちろんあるよ。まだ「人間向けの綺麗さ」と「AI向けの正しさ」を完璧に両立させるのは難しいし、タスクごとに最適な圧縮方法が違うこともある。そこをどう汎用化していくかがこれからの研究課題だね。