コラム

第158回

ハルシネーション

　実際には存在しないものを知覚するような幻覚症状のことを「ハルシネーション」という。本来、人間にしか使うはずのない言葉だ。生成AIの登場により、学習データに明確な根拠がないにもかかわらず、AIが自信満々にもっともらしい嘘をつくことをハルシネーションと呼ぶようになった。嘘を言ったとか間違えたと表現したほうが明確だと思うのだが、幻覚と言われると、何となく生成AIがついた嘘が悪だと感じない。これまでの事実が滅多に変わらないような歴史上の出来事や、目的地への最短ルートのように正解があるものであってもハルシネーションは起きる。最新の生成AIモデルを活用しても起きるし、学習データを増やしても起きてしまう、やっかいな問題だ。

　先日、北九州の小倉城に行ったので、散策しながら小倉城がいつ建てられたのか、生成AIに尋ねた。こんなに明確な問いであるのに、利用したサービスや聞き方次第で、何通りかの回答になった。どうやら、「建てられた」という聞き方が、建築開始のときか完成時期かが曖昧だったようだ。さらには、天守閣が再建されたためか、再建時期も回答になり得たのである。自分では明確に質問したつもりだったため、私はこれをハルシネーションだと感じた。正解にたどり着くためには、情報源を確認したり、複数の生成AIに尋ねて結果を比較したりするなど、回答の解釈や分析が欠かせない。

　コンタクトセンターのコンサルティングをしていると、PBXやCRMシステムの最新動向を知りたいとか、お勧めの製品を聞かれることがある。システム導入などITに詳しくない人は、このような大雑把な疑問が浮かぶようだ。私の場合、製品を勧める前に、製品を探している理由や現状を尋ね、背景を理解したうえでアドバイスしている。試しに生成AIにCRMシステムのお勧めを聞いてみると、もっともらしい表現で回答が出力された。なぜ、その質問をしているのかは聞いてこない。これまでなら専門家に尋ねるべき質問を、生成AIに尋ねる機会が多くなっているだろう。しかし、その領域に明るくない場合は、ハルシネーションを見抜くのは難しい。実は、コンタクトセンター領域に詳しくない人が、生成AIに分からないことを尋ね、その回答に従って行動したものの、うまく問題解決ができず、あとから私を頼るケースが起きるようになった。

　生成AI時代は、質問力を磨くべきという論者もいる。確かにそうだと思うが、質問するには、その領域に明るくなければ、良い質問はできない。また、ハルシネーションを見抜こうと、回答結果を検証する工程は意外なほど時間を要するし、結局はその領域に詳しくなければ、完全にはハルシネーションを見抜けない。とは言え、生成AIの登場で、調査する作業やアイデアを膨らます作業がとても効率的で品質向上にもなった。今後も使っていくべきサービスだと思う。しかし、使えば使うほど、生成AIのエンジンやサービス提供サイドに私たち利用者が考えていることが伝わる。情報が蓄積されると先を読まれやすく、その結果、回答をコントロールされたり、利用する習慣から抜け出せなくなるという脅威があるということも念頭に置かなければならない。