解説
ねえ智也くん、この論文のタイトル、なんだか面白そう！「大規模言語モデルで矛盾する知識と推論スキルを絡み合わせる」って、どういう意味？
ああ、これはね、大規模言語モデルが持つ知識が古くなったり間違っていたりすることがあるんだ。そのため、新しい正しい知識をどうやって取り入れるか、という問題に取り組んでいるんだよ。
へぇ〜、でも、なんで矛盾する知識が問題なの？
矛盾する情報があると、モデルがどちらの情報を信じるべきか混乱してしまうからだよ。だから、矛盾する知識をどう扱うかが重要になってくるんだ。
なるほどね。で、この論文ではどうやって解決してるの？
彼らは「Knot」という新しいデータセットを作って、大規模言語モデルが矛盾する知識をどう扱うかを3つのレベルで検証しているんだ。直接抽出、明示的推論、そして暗黙的推論だね。
おお、それぞれどういうこと？
直接抽出は、質問に対する答えを文書から直接引き出すこと。明示的推論は、質問が推論の道筋を示している場合にそれに従って答えること。暗黙的推論は、モデルが自分で推論の道筋を見つけ出して答えることだよ。
へ〜、面白いね！で、結果はどうだったの？
この研究では、大規模言語モデルが矛盾する知識を扱う上で、特に暗黙的推論が難しいことがわかったんだ。でも、この問題に取り組むことで、より賢いAIを作ることができるんだよ。
なんだか、AIも人間みたいに勉強してるみたいだね！
そうだね。でも、AIはまだまだ人間のように柔軟に考えることは難しいんだ。これからの研究でどう進化していくかが楽しみだよ。
うん！私たちも勉強しなきゃね。あ、でも私、勉強するより先にお腹が空いちゃったかも。
亜美はいつもそうだね（笑）。でも、学ぶことは大切だから、お腹が空いたら、また一緒に勉強しよう。
要点
大規模言語モデル（LLM）に知識文書を提供することは、そのパラメータに内在する静的な知識を更新する有望な解決策として浮上している。
しかし、文書の知識がLLMの記憶と矛盾する可能性があるため、LLMが記憶と矛盾する補足的な外部知識を同化する能力を検討する必要がある。
以前の研究では、LLMが提供されたテキストから矛盾する知識をどの程度抽出するかを説明しているが、矛盾する知識で推論する必要性は無視されている。
矛盾する知識を解決するためにLLMを有効にする戦略に関する詳細な分析が欠けている。
この制限に対処するために、我々は質問応答の形式で知識矛盾解決検査のための新しいデータセット、Knotを構築した。
Knotは、矛盾する知識での推論を3つのレベルに分けて深い分析を促進する：(1) 直接抽出、(2) 明示的推論、(3) 暗黙的推論。