最大の課題「ハルシネーション」対策のロールモデル　データの信頼性を優先した“情報提供”の仕組みと考え方

「正しさ」のみでは不十分
共感と正確性の両立に挑む

がんに関する相談は、正しい情報を返すだけでは不十分だ。医学的には正確でも、伝え方によっては患者に不安感を与える可能性がある。
ランタンでは、回答の冒頭で利用者の不安を受け止め、共感的な表現を用いるようチューニングを施している。渡邊氏は「医学的に正しい知識であっても、それを伝えることが患者さんにとって適切かは別問題」と強調する。
人間による対面相談であれば、沈黙、うなずき、表情といった非言語的コミュニケーションによって相手の不安を受け止めることができる。しかし、テキストベースのAIでは、言葉だけが利用者に返される。だからこそ、文体や表現の設計は極めて重要だ。
この点もカスタマーサポートにおけるAI応対に通じそうだ。有人対応では、苦情、解約、事故、金銭トラブルなど、顧客の感情負荷が高い問い合わせには、正確な回答と同時に相手の状況を受け止める表現が求められる。AIオペレータは情報整理や回答生成に強みを持つ一方で、有人対応のノウハウを反映した「利用者の受け止め方」を考慮したチューニングが不可欠になりそうだ。

横浜市との連携で見えた
ローカル情報の扱いの難しさ

ランタンは、医療情報だけでなく、自治体ごとのローカル情報との連携にも取り組んでいる。紹介されたのは横浜市との連携事例だ。市の公式情報、医療機関情報、制度情報などをナレッジ化し、医療情報と組み合わせて回答できるようにした。
ここで課題となったのが、自治体情報の整理である。自治体サイトには有用な情報が掲載されている一方で、構造化されていなかったり、更新状況が見えにくいことも多い。AIが参照しやすい形に整えるには、Webスクレイピングやマークダウン化といった前処理が必要になる。「RAGで一番大事なのは前処理です。体系立ててマークダウンにするところは粘り強く実施するしかありません」（山本氏）。
横浜市の場合、がん対策に関する情報が比較的整理されており、行政側のレスポンスも速かったが、体制は自治体によって差がある。地域ごとの医療機関、相談窓口、制度情報を正確に反映するには、自治体、医療機関と、開発するベンダーなどの技術機関の継続的な連携は欠かせない。

マネタイズは永遠の課題
持続可能な運用モデルが次の課題

ランタンには、患者本人だけでなく、その家族や医療従事者もアクセスする。医療従事者にとっては、患者に対する説明の下調べや壁打ちのツールとしても活用できる。また、AIが医学的な視点だけでなく、心理面、費用面、生活面などを漏れなく提示する点は、支援者側にも有用だ。
一方で、運用面の課題はある。医療情報の提供は、利用者から直接収益を得るビジネスモデルにはなじみにくい。これまでは助成金や寄付を活用してきたが、情報更新や自治体展開を進めるには、持続可能な資金と運用体制が必要となる。在宅がん療養財団では、今後、自治体、医療機関、学会、企業との連携モデルを模索しながら、情報更新のPDCAを回す方針だ。
テクノロジー面では、音声対応についても可能性は否定しないものの、現時点ではテキスト入力を中心に展開する方針だ。「音声でテキストと同レベルの正確かつ十分な回答を即時に返すには、技術面・UI面で課題が残る」（山本氏）。
生成AI活用の本質は、信頼できる情報を整備し、AIが扱いやすい形に加工し、回答範囲を制御したうえで、利用者の不安に配慮した表現に調整し、運用後のフィードバックを改善につなげることにある。ランタンは、医療領域における生成AI活用の事例であると同時に、CS部門がAIを業務実装する際の重要なポイントを示している。このような比較的高いリスク領域におけるAI活用では、「何を答えさせるか」以上に、「何を答えさせないか」「どの情報を根拠にするか」「人との接点にどうつなぐか」が問われる。そのひとつの回答が示された事例といえそうだ。