AIの「ど忘れ」を防げ！通信1回で賢くなる最新の学習術

必殺技じゃないよ。これは『連合学習（Federated Learning）』っていう、データを一箇所に集めずにAIを賢くする技術の新しい研究だね。

普通の連合学習は、サーバーとクライアントの間で何度も何度もデータをやり取りしなきゃいけないんだ。でも、この論文が提案してる『OSI-FL』は、なんと通信がたったの「1回」で済むんだよ。

例えが極端すぎるけど、効率がいいのは確かだね。しかも、AIには『破滅的忘却』っていう弱点があるんだけど、それも克服しようとしてるんだ。

簡単に言うと、新しいことを覚えると古いことを綺麗さっぱり忘れちゃう現象のことだよ。特にデータが後からどんどん追加される「増分学習」だと、これが大きな問題になるんだ。

……亜美さんの物忘れと一緒にしちゃダメだよ。で、この論文はどうやって解決してるかというと、まずクライアント側でVLMっていうモデルを使って、画像の特徴を「埋め込み（Embedding）」っていう短い数値のデータに変換するんだ。

そう。その短いデータだけをサーバーに送るから、通信量がすごく少なくて済む。サーバー側では、そのデータを受け取って『拡散モデル（Diffusion Model）』っていう、画像を生成するAIを使って、クライアントのデータにそっくりな画像を再現するんだよ。

そこでもう一つの工夫、「選択的サンプル保持（SSR）」の出番だ。サーバーで作った画像の中から、学習に特に役立ちそうな「重要なサンプル」だけを少しだけ取っておくんだよ。新しいことを学ぶときに、その取っておいた画像も一緒に復習することで、昔の知識を忘れないようにするんだ。

従来の連合学習や、他のワンショット手法と比べても、このOSI-FLは高い精度を維持できたみたいだよ。特に、新しいタスクが次々来るような難しい状況でも、性能が落ちにくかったんだ。

将来性的には、医療データみたいにプライバシーが厳しくて、かつデータが日々更新されるような分野で役立つだろうね。ただ、課題もある。サーバー側に高性能な拡散モデルがあらかじめ必要なんだ。

そういう余計なことだけは、SSRを使わなくても絶対に忘れないよね、亜美さんは。