野村総合研究所（東京都千代田区、此本臣吾代表取締役会長 兼 社長、以下NRI）とNRIデジタル（神奈川県横浜市、雨宮正和代表取締役社長）は、個別企業向け生成AIソリューション『プライベートLLM（大規模言語モデル）』を2024年春以降に提供する予定だ。
『プライベートLLM』のメニュー体系
プライベートLLMは、生成AIの活用における懸念事項であるデータ漏えいリスクを極小化する動作環境を特徴とする。具体的には、Metaの『Llama2』をはじめ、基盤モデルを公開済のLLMを、NRIのデータセンターで稼働するプライベートクラウド、あるいは導入企業側が情報システムを保有して運用するオンプレミス環境で動作させることで、情報の安全性を担保した。金融機関など、厳格な情報セキュリティ統制を必要とする企業の利用を想定している。
LLMの性能については、企業が持つデータを利用してプリトレーニング、ファインチューニングなどのカスタマイズを行うことで、業務に適用可能な水準に引き上げるとしている。実証実験として、NRI内の会計事務手続きサポート業務に適用。カスタマイズ用の学習データ６万件を用いて、NRIのデータセンターに設置したGPU上で動作するLlama2のファインチューニングを行った。結果、業務に適用可能な水準まで性能が向上し、Q&A作成の作業時間を6割削減できたという。
このほか、『プライベート音声認識』などの周辺モジュールを提供。コンタクトセンターや対面（店舗）での問い合わせ対応など、適用業務の幅を拡大するとともに、個人特定が可能な音声データの漏えいリスクの極小化を図った。
2024年01月31日 18時11分 公開
2024年01月15日 14時00分 更新
新規登録
ログイン
