解説ねえ智也くん、この論文のタ…
TL;DR
LLMは同じ意味でも文の構造（能動態/受動態、分裂文など）が変わると政治的スタンスを変えることがある。本論文は6種類の言語的書き換えを用いて、スタンス変化を引き起こす書き換えの種類と、その変化がモデル内部のどの層・部位で生じるかを活性パッチングで特定した。結果、中盤〜後半のデコーダ層、特に最終プロンプト位置のブロック出力が復元に最も寄与することが分かった。
解説
ねえ智也くん、この論文のタイトル見てびっくりしたんだけど、言語構造の違いでLLMの政治的スタンスが変わるってどういうこと？
ああ、つまり同じ意味の文でも、能動態と受動態とか、分裂文みたいに文法構造を変えると、LLMが出す政治的スタンスが変わることがあるんだよ。
え、そんなことあるの？人間なら意味が同じなら答え変わらないのにね。
そう。で、この論文では6種類の言語的書き換えを使って、どの書き換えがスタンス変化を引き起こすか調べてる。
6種類も！具体的にはどんな書き換え？
能動態/受動態、分裂文、倒置、否定、時制の変更、それと代名詞の変更だね。
なるほど。で、どうやってスタンス変化が起きる場所を特定したの？
活性パッチングっていう手法を使ってる。モデルの特定の層や部位の出力を書き換えたバージョンと元のバージョンで入れ替えて、どこが変化に効くか調べるんだ。
へえ、それでどこが重要だったの？
中盤から後半のデコーダ層、特に最終プロンプト位置のブロック出力が復元に一番寄与してた。
つまり、モデルの後ろの方でスタンスが決まるってこと？
そういうこと。特に書き換えの種類によって影響を受ける層が微妙に違うのも面白いところ。
でも、これってLLMが政治的に偏ってるってことにならない？
そういうリスクを示唆してる。でもこの研究の意義は、そういうバイアスを検出して、どこで起きてるか特定できるようにしたこと。
なるほどね。でも限界もあるんでしょ？
うん。使ったモデルが限られてるし、英語だけ。それに書き換えの種類も6種類だけだから、もっとあるかもしれない。
あと、実際の政治的な文脈でどのくらい影響があるかも気になるなあ。
そう。そこは今後の課題だね。
でもさ、もしLLMが能動態と受動態で意見変えるなら、政治家のスピーチを能動態に書き換えたら支持率上がったりしてね！
それはさすがにやりすぎだよ。