解説ねえ、智也くん！この論文の…
TL;DR
GPUデータベースにおいて、LLMがクエリごとに専用CUDAコードを合成する手法（SHADB）は、既存のエンジン（HeavyDBなど）を最大7.4倍上回る性能を達成。しかし、その優位性の大部分は汎用化可能な最適化（カーネル融合、レジスタレベルのデータフローなど）に起因し、残差は小さく非移植的。SYCLDBにそれらを実装すると、合成コードの1.27倍以内に収まり、単一コードベースで全クエリ・全GPUに対応可能。GPUでは「合成よりエンジニアリング」が適切と結論。
解説
ねえ智也くん、この論文のタイトル、『合成 vs エンジニアリング』って面白いね。GPUでクエリ実行するのに、LLMがコードを合成する方法と、ちゃんとエンジニアリングする方法を比べてるんだって？
そう。最近のGPUデータベースでは、クエリごとにLLMが専用のCUDAコードを生成する手法が注目されてて、SHADBっていうシステムが既存のエンジンより最大7.4倍速いって報告されてるんだ。
7.4倍！すごいじゃん！じゃあもう全部LLMに任せればいいんじゃないの？
でも、この論文はその優位性のほとんどが汎用化可能な最適化、例えばカーネル融合とかレジスタレベルのデータフローによるものだって分析してるんだ。つまり、LLMが特別なことをしてるわけじゃなくて、既存のエンジンにも移植できるテクニックを使ってるだけってこと。
あ、なるほど。じゃあその最適化をちゃんとエンジニアリングして実装すれば、同じくらい速くなるってこと？
そう。実際に彼らはSYCLDBっていう移植可能なエンジンにそれらの最適化を実装して、合成コードの1.27倍以内の性能に収めたんだ。しかも単一のコードベースで全クエリ・全GPUに対応できる。
つまり、合成コードの方がちょっと速いけど、その差は小さくて、汎用性を考えるとエンジニアリングした方がトータルで得ってこと？
その通り。論文の結論は『GPUでは合成よりエンジニアリングが適切』ってこと。ただし、残差の部分は非移植的な最適化によるものだから、完全に同じにはならないけどね。
でもさ、LLMが生成したコードをそのまま使う方が楽そうじゃない？エンジニアリングって大変そうだし。
確かに楽かもしれないけど、LLMのコードはクエリごとに生成し直す必要があって、移植性も低い。エンジニアリングしたエンジンは一度作れば全部のクエリとGPUで使えるから、長期的には効率的なんだ。
なるほどね〜。でも、もしLLMがもっと賢くなって、移植性も考慮したコードを生成できるようになったら、また話が変わるかもね？
それはあるかもしれない。でも今のところは、ちゃんとエンジニアリングした方が現実的ってことだよ。
わかった！じゃあ私もエンジニアリング頑張るよ…って、私まだ勉強中だから、まずは智也くんに教えてもらわないとね！
…その前に、論文をちゃんと読もうね。