有害表現検知 - 亜美と智也のAI論文解説 https://rag-lover.com 最新AI論文の知見を分かりやすく解説! Sat, 28 Feb 2026 17:53:44 +0000 ja hourly 1 https://wordpress.org/?v=7.1.3 https://rag-lover.com/wp-content/uploads/2024/03/cropped-1girl-young-woman-with-semi-long-caramel-brown-hair-wearing-a-bright-colored-o-s-1-32x32.png 有害表現検知 - 亜美と智也のAI論文解説 https://rag-lover.com 32 32 AIも「空気を読む」時代へ?相手の立場に立って悪口を見抜く最新技術! https://rag-lover.com/2026/01/07/ai%e3%82%82%e3%80%8c%e7%a9%ba%e6%b0%97%e3%82%92%e8%aa%ad%e3%82%80%e3%80%8d%e6%99%82%e4%bb%a3%e3%81%b8%ef%bc%9f%e7%9b%b8%e6%89%8b%e3%81%ae%e7%ab%8b%e5%a0%b4%e3%81%ab%e7%ab%8b%e3%81%a3%e3%81%a6%e6%82%aa/?utm_source=rss&utm_medium=rss&utm_campaign=ai%25e3%2582%2582%25e3%2580%258c%25e7%25a9%25ba%25e6%25b0%2597%25e3%2582%2592%25e8%25aa%25ad%25e3%2582%2580%25e3%2580%258d%25e6%2599%2582%25e4%25bb%25a3%25e3%2581%25b8%25ef%25bc%259f%25e7%259b%25b8%25e6%2589%258b%25e3%2581%25ae%25e7%25ab%258b%25e5%25a0%25b4%25e3%2581%25ab%25e7%25ab%258b%25e3%2581%25a3%25e3%2581%25a6%25e6%2582%25aa https://rag-lover.com/2026/01/07/ai%e3%82%82%e3%80%8c%e7%a9%ba%e6%b0%97%e3%82%92%e8%aa%ad%e3%82%80%e3%80%8d%e6%99%82%e4%bb%a3%e3%81%b8%ef%bc%9f%e7%9b%b8%e6%89%8b%e3%81%ae%e7%ab%8b%e5%a0%b4%e3%81%ab%e7%ab%8b%e3%81%a3%e3%81%a6%e6%82%aa/#respond Tue, 06 Jan 2026 18:37:08 +0000 https://rag-lover.com/2026/01/07/ai%e3%82%82%e3%80%8c%e7%a9%ba%e6%b0%97%e3%82%92%e8%aa%ad%e3%82%80%e3%80%8d%e6%99%82%e4%bb%a3%e3%81%b8%ef%bc%9f%e7%9b%b8%e6%89%8b%e3%81%ae%e7%ab%8b%e5%a0%b4%e3%81%ab%e7%ab%8b%e3%81%a3%e3%81%a6%e6%82%aa/ 解説 ねえねえ智也くん!この『ペルソナを考慮した堅牢な有害表現検知』っ…

The post AIも「空気を読む」時代へ?相手の立場に立って悪口を見抜く最新技術! first appeared on 亜美と智也のAI論文解説.

]]>

解説

AMI HAPPY

ねえねえ智也くん!この『ペルソナを考慮した堅牢な有害表現検知』っていう論文、タイトルがかっこよくて気になっちゃった!

TOMOYA NEUTRAL

ああ、それは面白いところに目をつけたね。簡単に言うと、AIが「誰の視点で」ネット上の悪口を判定するか、っていう研究だよ。

AMI SURPRISED

えっ、悪口って誰が見ても悪口じゃないの?「バカ」とか「アホ」とか!

TOMOYA NEUTRAL

それがそうでもないんだ。ある人には冗談に聞こえても、別の人種や性別の人にはすごく攻撃的に感じられることがある。これを「主観性」の問題って言うんだけど、今のAIはそこを無視して「一律の正解」を出そうとしがちなんだよね。

AMI HAPPY

なるほど〜。じゃあ、AIに「あなたは〇〇さんです」ってなりきってもらえばいいのかな?

TOMOYA NEUTRAL

その通り。でも、ただ「なりきって」と指示するだけじゃ不十分なんだ。この論文では、モデルの種類や対象となるペルソナによって、最適な指示の出し方がバラバラだってことを突き止めたんだよ。

AMI SAD

えー、じゃあどうすればいいの?智也くん、助けて!

TOMOYA NEUTRAL

そこでこの論文が提案しているのが、2つの工夫だ。1つは「TextGrad」っていう技術を使って、AI自身に「どういうプロンプト(指示文)ならそのペルソナになりきれるか」を自動で改善させること。

AMI SURPRISED

AIが自分で自分の指示を直すの?賢すぎ!

TOMOYA NEUTRAL

もう1つは、複数のプロンプトで出した判定結果を「SVM」っていう機械学習のモデルを使って賢くまとめる「アンサンブル」っていう手法だね。単純な多数決じゃなくて、それぞれの判定のクセを学習して最終的な答えを出すんだ。

AMI HAPPY

アンサンブル……合奏みたいで素敵!それで、結果はどうだったの?

TOMOYA NEUTRAL

実験の結果、このSVMを使ったアンサンブルが、どんなペルソナに対しても一番安定して高い精度を出せたんだ。単一のプロンプト手法よりもずっと「堅牢」、つまりミスが少なくなったんだよ。

AMI HAPPY

すごいじゃん!これがあれば、SNSのパトロールもみんなが納得できる感じになるね!

TOMOYA NEUTRAL

そうだね。多様な価値観を認める「複数主義的」なAI評価への大きな一歩だよ。ただ、特定の属性、例えばヒスパニック系の女性の判定とかではまだ課題が残っているみたいだけどね。

AMI HAPPY

ふむふむ。じゃあ次は、私の「天然ボケ」を「天才的なユーモア」だと判定してくれるペルソナAIを作ってよ!

TOMOYA NEUTRAL

それは主観の問題じゃなくて、ただの事実誤認だろ。却下。……さ、研究室に戻るぞ。

要点

  • 有害な表現(Toxicity)の検知は主観的であり、人種や性別などの属性(ペルソナ)によって判断基準が異なることを指摘。
  • AIに特定のペルソナを与えて判定させる「ペルソナ・プロンプティング」の有効性を、複数のモデルで系統的に評価。
  • 単一のプロンプト手法では全てのモデルやペルソナで最良の結果を得られないため、プロンプトの自動最適化(TextGrad)を導入。
  • 4つの異なるプロンプト手法の出力をSVM(サポートベクターマシン)で統合する「メタ・アンサンブル」手法を提案。
  • 提案手法のSVMアンサンブルが、従来の多数決や単一手法よりも、多様なペルソナにおいて一貫して高い精度を達成することを確認。

The post AIも「空気を読む」時代へ?相手の立場に立って悪口を見抜く最新技術! first appeared on 亜美と智也のAI論文解説.

]]>
https://rag-lover.com/2026/01/07/ai%e3%82%82%e3%80%8c%e7%a9%ba%e6%b0%97%e3%82%92%e8%aa%ad%e3%82%80%e3%80%8d%e6%99%82%e4%bb%a3%e3%81%b8%ef%bc%9f%e7%9b%b8%e6%89%8b%e3%81%ae%e7%ab%8b%e5%a0%b4%e3%81%ab%e7%ab%8b%e3%81%a3%e3%81%a6%e6%82%aa/feed/ 0 6843