月刊コールセンタージャパン

デロイトトーマツコンサルティング、生成AI活用のためのRAG実装アプリを開発

RAG実践のプロセスを改善

デロイトトーマツコンサルティングは、大規模言語モデル（LLM）に企業のデータベースを接続するRAG（Retrieval Augmented Generation）実装推進のためのアプリケーション「多機能RAGアプリケーション（以下多機能RAGアプリ）」を開発した。

RAGは、生成AIが企業内の既存知識や蓄積されたデータを活用する有用な手段である一方、ビジネスでの利活用にける技術課題が複数顕在化している。具体的には、大量のドキュメントの中から必要な情報を検索できない、ドキュメント中のグラフやチャートなどの視覚的情報が読み取れない、複数の問いを含む複合的な質問に回答できない、自社独自の用語をLLMが理解していないため回答が正確ではない――など。デロイトトーマツでは、さまざまな生成AIプロジェクトでこれらの課題に対峙し、その技術ノウハウの中から、利便性や精度の向上に寄与する技術を集約した。

多機能RAGアプリの主な機能は次の通り。
●検索精度向上のための機能：複雑な質問をシンプルな質問に分解し、複数回の検索を経て回答を生成する「サブクエリ検索」、最初に複数のドキュメントを検索、選別したのちに特定ドキュメントに絞ったチャンク（意味のまとまり）単位での検索を行う「２段階検索」
●LLMの回答分野拡張のための機能：テキストのみならずドキュメント中のグラフやチャートなどの視覚的情報を読み取り可能とする「マルチモーダル」、業界や自社特有の用語の定義を登録しその定義を踏まえた回答を生成するための「独自用語集」
●回答精度向上のための機能：評価の高い回答を優先的に表示するために一次保存し検索を経ずに回答を生成する「回答キャッシュ」、管理者がFAQデータ登録しそれをもとに回答を生成する「FAQ回答」

同アプリに付随する「インデックス作成ツール」では、検索用データの作成に際し、検索精度を向上させるためのメタデータの付与や、マルチモーダルに対応したインデックス作成機能などを実装。ドキュメントを投入するだけで多機能RAGに対応したインデックスデータを作成する。

操作画面上では、回答のもとになった引用箇所や、より詳細な質問を促すフォローアップ質問が表示され、各機能の選択もON/OFF設定の切り替えにより可能。同アプリは、デロイトトーマツのコンサルタントおよびエンジニアがクライアントのニーズに合わせた生成AIの実装において活用することで、RAGに関する開発期間の短縮および品質の向上を支援する。

利用イメージは次の図の通りだ（クリックで拡大）。