目的に合わせたAI活用を高精度に実現
コンタクトセンターのためのセキュアなLLM

　人手不足解消の救世主として大きく注目されている生成AI。コンタクトセンターでも生成AI活用に対する期待は非常に高く、実に約65％もの企業が「関心のあるソリューション」として挙げている。一方で、その利用率はいまだ低く、約半数が「使っていない」と回答している※。

　従来、労働集約型で運営してきたコンタクトセンターにおいて、生成AIの活用範囲は幅広い。とくに、応対ログを音声認識技術でテキスト化したデータに生成AIを連携させることで、さまざまな業務を自動化、高度化することが可能になる。例えば、応対履歴やメール／チャットの返信文の生成、VOCの抽出、人材育成の自動化など、具体的な用途は幅広く、「活用したい」という意識も浸透しつつある。しかし、個人情報や商品／サービスに関する詳細情報を取り扱うコンタクトセンターでは、セキュリティや情報の正確性が課題となり、思うように利用が進まないのが実態だ。

　こうした現状に対し、音声認識ソリューションを提供するアドバンスト・メディアは、要約やVOC分析、Q&Aの抽出などコンタクトセンターでの活用に特化した生成AI「AOI LLM for AmiVoice Communication Suite」を開発、提供開始した（図１）。データを一切外部へ出すことなく、ローカル環境で利用可能な大規模言語モデル（LLM）を独自にチューニングしている。

図1　「AOI LLM for AmiVoice Communication Suite」──生成AI活用イメージ

　すでに多くのコンタクトセンターに導入されている音声認識ソリューション「AmiVoice Communication Suite」のオプションとして提供する手軽さも特徴だ。オンプレミス、クラウドのいずれの環境でも構築でき、さまざまなシステムとの連携も可能。定額利用料での提供もあり、導入ハードルは極めて低い。

セキュリティ、精度、柔軟性──
クラウド型と比較し高い優位性

　一般的なクラウド型生成AIと比較すると、AOI LLMの強みがよくわかる（図２）。（１）セキュリティ、（２）正確性の確保、（３）スムーズなシステム連携、（４）システムリソースの確保、（５）汎用性の５項目で比較した。

図2　通話テキストデータ活用における「AOI LLM」とクラウド提供型生成AIの比較

　セキュリティについては、データを社外に出す必要があるクラウド型は個人情報のマスキングなどの対策が求められるのに対し、AOI LLMは、通話データを一切外部に出すことなく自社環境内で利用でき、安心して利用できる。

　正確性については、クラウド型の場合、ファインチューニングで変更できるパラメータが限定的であることが多く、精度向上が難しい。外部情報の検索を組み合わせる（RAG）ことで回答はある程度、正確性を向上させることはできるが、専門知識も必要で、求めるレベルまで向上させることは極めて困難だ。一方、AOI LLMは、コンタクトセンターの音声認識に携わってきた技術者が、多くのパラメータを目的に合わせてファインチューニングを行うことで正確性の向上を図ることができる。また、RAG技術を利用することでさらに正確性を追求することも可能だ。

　システム連携についても優位性が高い。クラウド型は、音声認識ソリューションとの連携はAPIでも連携可能だが、アウトプットを表示させるUIや外部システムへの連携については、別途、多くの開発が必要になる。一方、AOI LLMは音声認識ソリューションのオプションサービスとして提供されるため、音声認識から感情解析までスムーズな連携が可能。生成AIからのアウトプットもAmiVoice Communication SuiteのUIに表示させたり、CRMやテキストマイニングなどの外部システムに連携させることができる。

　生成AI活用では、ネットワークのリソース確保も課題となる。クラウド型の場合、音声認識結果をリアルタイムで活用するには、相当のネットワーク環境が必要になり、プランによっては利用制限が定められるケースもある。AOI LLMは、自社環境内にシステムを構築するため、そうした利用制限はなく、冗長構成を組むことも可能。自社のポリシーに応じて、可用性を向上させることもできる。

　汎用性についてのみクラウド型の方が優位となるが、その分、AOI LLMは、用途に特化したファインチューニングにより精度を高めることが可能だ。

アウトプットの表示は自由
ビジネスに貢献する活用が可能

　AOI LLMは、通話テキストデータをユーザーの目的に合わせて、さまざまな形でアウトプットできる。

　アウトプットのフォーマットは、自由に設定可能。例えば、要約の場合、「お客様の要望」「対応結果」「質問」「回答」「今後の行動」などの項目で、その会社が求める情報を抜粋できる。VOCについても、「不満」「感謝」「要望」などの項目で抽出が可能。Q＆Aは、「お客様からの質問」と「オペレータの回答」を分けて生成できる。適切なフォーマットに整理して残せるため、目的に応じて活用しやすい。これによって、例えばVOCの分析やフィードバックを迅速に行うことが可能になる。

　独自のファインチューニングによって、要約やVOCをビジネスに役立つ情報に加工することも可能だ。応対内容を単純に要約するだけではなく、「資料が欲しい」「検討したい」などビジネスチャンスに活かせる情報を優先して抽出することで、それらの情報を活かし、提案力を備えたコンタクトセンターへと進化できる。

　初期費用とモデルへのチューニング費用は別途必要になるが、利用料は定額。導入した音声認識ソリューションを、手軽かつ最大限に活かすオプションサービスとしてAOI LLMは存在感を強め、コンタクトセンターの生成AI活用を大きく推進していくはずだ。

※出典：「テクマトリックスCRM FORUM 2024」イベント実施報告書