コラム

第172回

顧客向け生成AI活用はバブルか

　応対内容の要約やメール返信文の原案作成など、コンタクトセンターにおけるオペレータ支援を主目的とした生成AI活用が急速に進展している。最近では、一般顧客向けのPoCが多く見られるが、どこまで成果を上げているだろうか。

　FAQ検索やシナリオ型のチャットボットだけでも立派なAI活用になるのだが、これだけでは足りないらしく、顧客向けに「コンタクトセンターにAIを導入せよ」という指示が多くのセンター企画部門を悩ませている。実際のところ、音声ボット対応やチャットボットを利用したが、同じところを行ったり来たりして、問題解決できずに困り果てた経験をした人は多いはずだ。一般顧客向けの生成AI活用の成功事例が確立されているとは言い難い。それにもかかわらず、多くの企業が導入を急ぐ背景には、生成AIの高い対話性能に対する期待があるからだろう。個人的にChatGPTを使ってみて、その利便性を体験した結果、自社の顧客接点にも適用できると安易に捉えがちである。

　私たち人間には「予測」という優れた機能が備わっている。ドアがどちらに開くのか、人や自転車がどの程度の速度なのか、頼んだ仕事がいつ頃終わりそうか。例を挙げればきりがないが、予測できるから準備をして生活できる。仲の良い友人の発言に、予測もできない偽りが含まれるとしたら、疲れてしまう。生成AIの最大のリスクであるハルシネーションについて、「人でもミスをするから許容すべき」という意見がある。確かに人よりミス率ははるかに低いが、許容しがたい。人には人を育てる喜びがあるが、AIを育てることに関心が持てないというのが理由だと思うが、それだけではない。生成AIによるミスの内容の予測が困難でチェックが難しいからだ。生成AIにファイルの要約や分析を任せると、見たこともない漢字が現れたり、人が間違えないような濁点で発音するのを経験する。旅行先のプランを立ててもらうと、あり得ないルートで作成されたこともある。なぜ、そのような事態になったのか分からないし、予測もつかない。このように生成AIによるハルシネーションは、人間の想定が及ばない箇所や、誤りを事前に予見しにくい場面で発生することがある。だから「Human in the loop」は必要不可欠であるが、そのチェック機能を効かせる人間の負担は大きい。生成AIに任せる範囲が大きくなればなるほど、その結果を検証・監督する負荷も大きくなる。

　世界には、生成AIに関連したサービスを提供する企業が数百以上はあると言われており、その競争が激しいことは想像に難くない。実績を作りたいベンダーと、顧客向けの導入を進めたいユーザー企業が、冷静な判断ができずに夢を追いかけてしまうと、ハルシネーションに悩まされ、顧客向け生成AI活用はバブルとして弾けてしまう。顧客向け生成AIサービスはオペレータ向けと異なり、回答品質や説明責任、リスク管理が強く求められる。個人的な利用で得られる生成AIの印象と実際の事業適用との間には、大きな隔たりが存在する。どのような範囲で生成AIを適用するのか、ハルシネーション対策は万全か、そして顧客視点になっているのか、冷静な判断が必要である。