最大の課題「ハルシネーション」対策のロールモデル　データの信頼性を優先した“情報提供”の仕組みと考え方

がん治療において、「情報」の重要性は極めて高い。しかし、実際は科学的根拠のない治療法がネット上に氾濫し、適切な情報にたどり着く障害となっているのも事実だ。在宅がん療養財団が開発した生成AI搭載対話型がん相談支援システム「ランタン」は、信頼できる医療情報をもとに、患者・家族と医療従事者との対話を支援する仕組み。医療行為との線引き、ハルシネーション対策、自治体情報との連携など、医療領域で生成AIを活用するうえでの実践的な課題と可能性を検証する。

がん治療では、患者や家族がどの治療を選ぶのか、治療の過程、そしてその後の生活を考えるうえで、“情報”は極めて大きな意味を持つ。手術、放射線治療、薬物療法といった選択だけでなく、療養先、生活支援、費用、副作用への対応など、意思決定に必要な情報は多岐にわたる。
しかし、信頼できる情報を患者自身が探すことは簡単ではない。検索すれば多くの情報にアクセスできる一方で、科学的根拠に欠けた不適切な情報も混在している。そうしたなかで、在宅がん療養財団が開発したのが生成AI相談支援システム「ランタン」だ。
同財団の理事長、渡邊清高氏は開発の背景について、「患者さんが適切で質の高い医療を受け、安心して日々の生活を過ごしていただくための情報はとても重要です。信頼できる情報源を患者さんの目線、医療者の目線で整理し、適切な形で届けることが重要だと考えました」と説明する。
ランタンは、単に質問に答えるチャットボットではない。患者や家族が疑問点を整理したり、相談すべき内容を確認したりするための支援ツールとして位置づけられている。

医療行為ではないコミュニケーション
「意思決定」の支援に徹する

医療領域の相談対応で生成AIを活用する際に避けて通れないのが、「診断や治療判断」との線引きだ。ランタンも診断名を示したり、特定の治療方針を推奨することは目的としていない。
あくまで、患者／家族の意思決定を支援し、医師や看護師、相談支援センターなどに相談する際の参考情報を提供するサービスとして位置づけられている。質問内容が医療的判断に踏み込む場合には、医療従事者に相談するよう促す設計だ。
この線引きは、さまざまな顧客接点におけるAI活用にも示唆を与えそうだ。「AIが回答してよい範囲」と、「人が対応すべき範囲」の定義に悩む企業は数多い。とくに専門性の高い領域ほどそれは重要なプロセスといえる。医療のように、誤った回答が利用者に重大な影響をおよぼし得る領域では、利便性よりも安全性を優先した設計が求められそうだ。

ハルシネーション対策は
ルールベースとのハイブリッド

ランタンの技術開発は、ソーシャル創薬™を事業として掲げるシャルクス（東京都文京区、山本一樹代表取締役）が担当した。その概要を図に示す。

基盤モデルには各社フロンティアモデルを採用し、国内外の診療ガイドラインなどの医療情報をナレッジベースとして活用する。RAGによって外部の不確かな情報に引きずられないよう、Web検索モードは意図的に切断している。
医療相談AIにおいては、ハルシネーションの発生は致命傷になりかねない。開発過程では、新しい薬の商品名を入力すると、基盤モデルが正しく認識できず、誤った回答につながるケースも確認された。そこで採用したのが、薬剤の商品名を一般名に置換するルールベースの処理である。
山本氏は、「ルールベースでできるところは確実に動くスクリプトを組んでいます。商品名と一般名の対応表を持ち、質問文中に該当するものがあれば自動的に置換する仕組みです」と説明する。
現在、生成AI市場では、AIエージェントによる「自律的な処理」が注目されがちだ。しかし、ランタンではすべてをエージェントに委ねるのではなく、確実性が求められる処理はあえて“LLMの外側”で実装している。この設計思想は、CS領域のAI活用でも参考になるはずだ。本人確認、契約条件の判定、禁止事項の判別など、誤答が許されない処理は生成AIに自由回答させるのではなく、ルールや業務システムと組み合わせて制御する『ハイブリッド型』が、現段階の最適解に近いといえる。

「正しさ」のみでは不十分
共感と正確性の両立に挑む

がんに関する相談は、正しい情報を返すだけでは不十分だ。医学的には正確でも、伝え方によっては患者に不安感を与える可能性がある。
ランタンでは、回答の冒頭で利用者の不安を受け止め、共感的な表現を用いるようチューニングを施している。渡邊氏は「医学的に正しい知識であっても、それを伝えることが患者さんにとって適切かは別問題」と強調する。
人間による対面相談であれば、沈黙、うなずき、表情といった非言語的コミュニケーションによって相手の不安を受け止めることができる。しかし、テキストベースのAIでは、言葉だけが利用者に返される。だからこそ、文体や表現の設計は極めて重要だ。
この点もカスタマーサポートにおけるAI応対に通じそうだ。有人対応では、苦情、解約、事故、金銭トラブルなど、顧客の感情負荷が高い問い合わせには、正確な回答と同時に相手の状況を受け止める表現が求められる。AIオペレータは情報整理や回答生成に強みを持つ一方で、有人対応のノウハウを反映した「利用者の受け止め方」を考慮したチューニングが不可欠になりそうだ。

横浜市との連携で見えた
ローカル情報の扱いの難しさ

ランタンは、医療情報だけでなく、自治体ごとのローカル情報との連携にも取り組んでいる。紹介されたのは横浜市との連携事例だ。市の公式情報、医療機関情報、制度情報などをナレッジ化し、医療情報と組み合わせて回答できるようにした。
ここで課題となったのが、自治体情報の整理である。自治体サイトには有用な情報が掲載されている一方で、構造化されていなかったり、更新状況が見えにくいことも多い。AIが参照しやすい形に整えるには、Webスクレイピングやマークダウン化といった前処理が必要になる。「RAGで一番大事なのは前処理です。体系立ててマークダウンにするところは粘り強く実施するしかありません」（山本氏）。
横浜市の場合、がん対策に関する情報が比較的整理されており、行政側のレスポンスも速かったが、体制は自治体によって差がある。地域ごとの医療機関、相談窓口、制度情報を正確に反映するには、自治体、医療機関と、開発するベンダーなどの技術機関の継続的な連携は欠かせない。

マネタイズは永遠の課題
持続可能な運用モデルが次の課題

ランタンには、患者本人だけでなく、その家族や医療従事者もアクセスする。医療従事者にとっては、患者に対する説明の下調べや壁打ちのツールとしても活用できる。また、AIが医学的な視点だけでなく、心理面、費用面、生活面などを漏れなく提示する点は、支援者側にも有用だ。
一方で、運用面の課題はある。医療情報の提供は、利用者から直接収益を得るビジネスモデルにはなじみにくい。これまでは助成金や寄付を活用してきたが、情報更新や自治体展開を進めるには、持続可能な資金と運用体制が必要となる。在宅がん療養財団では、今後、自治体、医療機関、学会、企業との連携モデルを模索しながら、情報更新のPDCAを回す方針だ。
テクノロジー面では、音声対応についても可能性は否定しないものの、現時点ではテキスト入力を中心に展開する方針だ。「音声でテキストと同レベルの正確かつ十分な回答を即時に返すには、技術面・UI面で課題が残る」（山本氏）。
生成AI活用の本質は、信頼できる情報を整備し、AIが扱いやすい形に加工し、回答範囲を制御したうえで、利用者の不安に配慮した表現に調整し、運用後のフィードバックを改善につなげることにある。ランタンは、医療領域における生成AI活用の事例であると同時に、CS部門がAIを業務実装する際の重要なポイントを示している。このような比較的高いリスク領域におけるAI活用では、「何を答えさせるか」以上に、「何を答えさせないか」「どの情報を根拠にするか」「人との接点にどうつなぐか」が問われる。そのひとつの回答が示された事例といえそうだ。