生成AIへの期待が高まっている中、今後の生成AI活用の価値を高めるためには「個社ごとの業務データ」をどう組み合わせ、運用させていくのかというフェーズに移りつつあります。さまざまな業務プロセスやアプリケーションに生成AIが組み込まれ、自動化を含む効率化やサービス品質の向上が進むと見られている中、チャットボットで企業がキャラクターを通して自社の価値やアイデンティティを正しく発信し、ユーザーの期待や信頼に応える方法を紹介します。

生成AI活用の現在

2023年はChatGPTをはじめとした、大規模言語モデル（LLM）をベースとした対話型AIサービスの利用が爆発的に普及した年でした。

プロンプトエンジニアリングの有効活用によってビジネスでの利用機会の模索が進んだと同時に、一般的なデータベースに公開されていない固有の情報を使用したい場面や、回答に正確性と慎重さが求められる場合などにおいて、出力の精度に課題が残り、活用用途としてはまだまだ限定的なものとなっています。加えて、実行環境に高いセキュリティと安定性を求める場合などでの扱い方などに鑑みると、本格的な実用化に向けた課題が明確になってきた年でもあると考えられます。

組織内の固有知識を踏まえてLLMを活用するニーズ

そのような中、先進的な組織では組織内のデータを用いてLLMを活用し、顧客に提供するサービスの競争優位性の向上や、自組織内の業務効率化を目指そうとするニーズが顕在化しています。通常、組織の固有知識の多くが営業秘密として組織内に保有され、一般のデータベース上には公開されませんが、RAG（Retrieval Augmented Generation）と呼ばれる手法を用いることで、RAGのしくみに学習されたデータから情報を検索し、その検索結果を踏まえてLLMが回答を生成することができるようになります。これにより、ビジネスでのLLMの活用の幅を大きく広げることが可能になります。

rinnaが提供するTamashiru Custom（タマシルカスタム：LLMソリューション）は、このRAGの手法と会話の長期記憶技術を用いて、お客様の業務ユースケースに即したLLMの運用をご支援しています。

チャットボットにLLMを接続して使用する

チャットボットなど、自社が保有・提供するアプリケーションとLLMが接続できる場合、Tamashiru Customを導入することでアプリケーションの提供価値を大幅に強化することが期待できます。

RAGを通して、業務ナレッジや自社がもつ製品・サービスの固有情報を用いた回答の生成が可能になります。そのため、カスタマーサポートの現場ではオペレーターやスーパーバイザーの採用や育成に関する課題が解消され、全体の呼量の削減や自己解決率増加による生産性向上が見込まれます。また、Tamashiru Customに備わる長期記憶の技術によって、エンドユーザーの顧客情報やこれまでの会話履歴をもとした回答の生成が可能になるため、エンドユーザーはお客様のチャットボットを通してよりナラティブで優れた体験を得られ、サービス全体の品質向上につながることが期待されます。

これまでのLLMでは会話の履歴を「記録」として保持し、特定の入力をトリガーに記録を参照した内容を生成する一方で、「記憶」とは会話の内容を要約して記憶データとして保持します。まるで人間の脳が記憶をするのと同じような感覚で、入力内容に関連した記憶を呼び起こし会話をすることができます。

また、自社のキャラクターをインターフェースとして利用する場合、キャラクター独自のパーソナリティや企業の世界観を演出するしくみづくりとしても活用できます。rinnaには、「AIりんな」の長年の運用を通して培った、キャラクターの核をなすアイデンティティをチャットボットに活かすノウハウと実績があります。加えて、会話の長期記憶によって時を超えたキャラクターの同一性を確保し、企業のブランドイメージを守りながらチャットボットを通してキャラクターを運用するご提案が可能です。

音声会話によるチャットボットの拡張

多くの場合、チャットボットではテキストで会話のやり取りが行われますが、rinnaでは自社開発した音声合成サービスである「Koeiromap」を接続した音声によるインタラクティブな会話を提供しています。

このしくみでは、ユーザーが音声で入力したクエリに対して応答文を生成後、同内容の音声を自動的にKoeiromapが生成し、アプリケーションに返します。これにより、ユーザーはチャットボット上でテキストを入力することなく、音声のみで同期的な会話が可能になります。
デバイスの操作に慣れない方や、文字入力がスムーズにできないお子様など、さまざまなユーザーの利用が想定されるアプリケーションのバリアフリー化に役立ちます。

さらに、Koeiromapの代表的な特長である「さまざまな話者性の再現」 と「感情表現」の機能により、チャットボット上でもキャラクター自身のアイデンティティを強調し、よりユニークな顧客体験を提供することが可能です。

外部LLMに依存しない、独立性の高い環境

これまでご紹介したLLMに関するユースケースのしくみは、当社が独自に開発・提供しているものであるため、クラウドで提供されるサードパーティのLLMで懸念される仕様のアップデート、料金の改定やサービス自体の廃止の影響を受ける心配がありません。また、お客様の環境にあわせて処理性能を確保しているため、処理速度や処理上限に悩まされることなく長期にわたって安定的にご利用いただくことができます。特に、自社の顧客に提供するサービスアプリケーションなど、信頼性や安全性が求められる場面では、rinnaのLLMを用いたアプリケーションの開発をご検討ください。

まとめ

rinnaが開発したLLM「Tamashiru Custom」をチャットボットやAIに接続することで、組織内のデータを用いた利用が可能になる。

ユーザー情報や会話履歴を参照し回答精度を向上させる会話の長期記憶技術が用いられており、顧客体験とサービス品質の向上に貢献。

さらに、チャットボット上で、音声による同期的な会話が実現可能。

これにより、企業キャラクターのアイデンティティへのインタラクションがよりスムーズに。

これらLLMの挙動はお客様とrinnaの間で固定でき、外部環境の変化による影響を受けにくい。