AIの『良心』を呼び覚ます？ わずかな質問で偏見を消し去る新技術『KnowBias』

ああ、それはLLMが持っちゃってる社会的バイアス、つまり性別や人種に対する偏見をどうやって減らすかっていう研究だね。なかなか面白いアプローチだよ。

それが難しいんだ。今までのやり方は、偏見に関係する部分を「抑制」しようとしてたんだけど、それだとAIの頭が全体的に悪くなっちゃったり、特定の言い回しにしか効かなかったりしたんだよ。

まあ、そんなイメージかな。でもこの論文は逆で、「何が偏見かを知っているニューロン」を見つけて、そこを「強化」してあげるんだ。人間も「これは偏見だ」って自覚があれば、偏った発言を控えようとするだろ？

まず、AIに「人種によって能力に差があると思う？」みたいな、バイアスを認識してるか確認する質問を投げるんだ。その時に、AIの脳内にある「ニューロン」……つまり計算の最小単位のうち、どの部分が答えに貢献したかを分析するんだよ。

お、よく知ってるね。その解析で「バイアス知識ニューロン」を特定したら、あとは推論の時にそのニューロンの出力値を何倍かしてあげるだけ。再学習もいらないし、すごく軽量なんだ。

そうだね。ただ、まだ課題もある。今回は「人種」「性別」「宗教」とかの代表的なバイアスが中心だけど、もっと複雑で細かい偏見にどう対応するかとか、強化しすぎた時の副作用とかは、これからの研究課題だね。

……それ、僕の「一般常識ニューロン」が死滅して、ただのイエスマンになるだけだからやめてくれ。