AIドクターの採点表をAIが作る！？医療AIの安全を守る最新技術

ああ、それは医療用AIがちゃんと正しいことを言っているか、AI自身に採点表を作らせてチェックさせようっていう研究だね。かなり重要なテーマだよ。

そう思うかもしれないけど、医療の世界はミスが命に関わるからね。普通のAIだと、もっともらしい嘘をついても見抜けないことが多いんだ。かといって、お医者さんに毎回採点してもらうのはお金も時間もかかりすぎるだろ？

「マルチエージェント・フレームワーク」っていう仕組みを使っているんだ。役割分担した複数のAIが協力して、信頼できる医学データから「この質問にはこう答えるべき」っていう細かいルールを自動で作るんだよ。

大きく分けて3つのステップがある。まずステップ1は「検索」。WHOとかCDCみたいな信頼できる医学サイトから、質問に関連する正しい知識を集めてくるんだ。

次にステップ2。集めた知識を「原子的な事実」、つまりこれ以上分けられない最小単位の事実にバラバラにする。それと同時に、ユーザーが何を求めているかっていう意図も分析するんだ。これを「2系統の制約構築」と呼んでいるよ。

その通り。そして最後のステップ3が「監査と洗練」。作った採点表に漏れがないか、別のAIが厳しくチェックして、必要なら修正させるんだ。これで、すごく精度の高い採点表が完成する。

実験では、GPT-4oっていう最新のAIがそのまま採点するよりも、ずっと正確に医療ミスを見抜けたんだ。AUROCっていう指標で0.977という、ほぼ完璧に近い数値を出しているよ。

ごっこ遊びじゃないよ。この研究のすごいところは、採点するだけじゃなくて、その採点表を使ってAIの回答を「修正」させることもできる点だ。回答の質が約9%も向上したんだよ。

今後はもっと複雑な対話や、刻々と変わる最新の医学知識にも対応できるようにしていく必要があるね。でも、これが普及すれば、誰でも安全に高度な医療相談ができるようになるかもしれない。