最大の課題「ハルシネーション」対策のロールモデル　データの信頼性を優先した“情報提供”の仕組みと考え方

がん治療において、「情報」の重要性は極めて高い。しかし、実際は科学的根拠のない治療法がネット上に氾濫し、適切な情報にたどり着く障害となっているのも事実だ。在宅がん療養財団が開発した生成AI搭載対話型がん相談支援システム「ランタン」は、信頼できる医療情報をもとに、患者・家族と医療従事者との対話を支援する仕組み。医療行為との線引き、ハルシネーション対策、自治体情報との連携など、医療領域で生成AIを活用するうえでの実践的な課題と可能性を検証する。

がん治療では、患者や家族がどの治療を選ぶのか、治療の過程、そしてその後の生活を考えるうえで、“情報”は極めて大きな意味を持つ。手術、放射線治療、薬物療法といった選択だけでなく、療養先、生活支援、費用、副作用への対応など、意思決定に必要な情報は多岐にわたる。
しかし、信頼できる情報を患者自身が探すことは簡単ではない。検索すれば多くの情報にアクセスできる一方で、科学的根拠に欠けた不適切な情報も混在している。そうしたなかで、在宅がん療養財団が開発したのが生成AI相談支援システム「ランタン」だ。
同財団の理事長、渡邊清高氏は開発の背景について、「患者さんが適切で質の高い医療を受け、安心して日々の生活を過ごしていただくための情報はとても重要です。信頼できる情報源を患者さんの目線、医療者の目線で整理し、適切な形で届けることが重要だと考えました」と説明する。
ランタンは、単に質問に答えるチャットボットではない。患者や家族が疑問点を整理したり、相談すべき内容を確認したりするための支援ツールとして位置づけられている。

医療行為ではないコミュニケーション
「意思決定」の支援に徹する

医療領域の相談対応で生成AIを活用する際に避けて通れないのが、「診断や治療判断」との線引きだ。ランタンも診断名を示したり、特定の治療方針を推奨することは目的としていない。
あくまで、患者／家族の意思決定を支援し、医師や看護師、相談支援センターなどに相談する際の参考情報を提供するサービスとして位置づけられている。質問内容が医療的判断に踏み込む場合には、医療従事者に相談するよう促す設計だ。
この線引きは、さまざまな顧客接点におけるAI活用にも示唆を与えそうだ。「AIが回答してよい範囲」と、「人が対応すべき範囲」の定義に悩む企業は数多い。とくに専門性の高い領域ほどそれは重要なプロセスといえる。医療のように、誤った回答が利用者に重大な影響をおよぼし得る領域では、利便性よりも安全性を優先した設計が求められそうだ。

ハルシネーション対策は
ルールベースとのハイブリッド

ランタンの技術開発は、ソーシャル創薬™を事業として掲げるシャルクス（東京都文京区、山本一樹代表取締役）が担当した。その概要を図に示す。

基盤モデルには各社フロンティアモデルを採用し、国内外の診療ガイドラインなどの医療情報をナレッジベースとして活用する。RAGによって外部の不確かな情報に引きずられないよう、Web検索モードは意図的に切断している。
医療相談AIにおいては、ハルシネーションの発生は致命傷になりかねない。開発過程では、新しい薬の商品名を入力すると、基盤モデルが正しく認識できず、誤った回答につながるケースも確認された。そこで採用したのが、薬剤の商品名を一般名に置換するルールベースの処理である。
山本氏は、「ルールベースでできるところは確実に動くスクリプトを組んでいます。商品名と一般名の対応表を持ち、質問文中に該当するものがあれば自動的に置換する仕組みです」と説明する。
現在、生成AI市場では、AIエージェントによる「自律的な処理」が注目されがちだ。しかし、ランタンではすべてをエージェントに委ねるのではなく、確実性が求められる処理はあえて“LLMの外側”で実装している。この設計思想は、CS領域のAI活用でも参考になるはずだ。本人確認、契約条件の判定、禁止事項の判別など、誤答が許されない処理は生成AIに自由回答させるのではなく、ルールや業務システムと組み合わせて制御する『ハイブリッド型』が、現段階の最適解に近いといえる。