デロイト トーマツ、RAGの利便性や精度を向上させる「多機能RAGアプリ」を開発

デロイト トーマツ コンサルティング合同会社（以下、デロイト トーマツ）は、大規模言語モデル（以下、LLM）に企業のデータベースを接続するRAG（Retrieval Augmented Generation）の利便性や精度を向上させる技術を集約した多機能RAGアプリケーション（以下、多機能RAGアプリ）を開発した。

RAGは、生成AIが企業内のデータを活用する際の有用な手段だが、技術課題も多数存在する。例えば、「大量のドキュメントから必要な情報を適切に検索できない」「視覚的情報を読み取れない」「複数の問いを含む複合的な質問に対応できない」「自社独自の用語をLLMが理解できないため回答が正確でない」などの課題が確認されている。

そこで今回開発された「多機能RAGアプリ」では、ユーザの問いから回答までの過程で利用可能な機能を備えている。

具体的には、「サブクエリ検索」や「2段階検索」による検索精度向上機能、「マルチモーダル」や「独自用語集」によるLLMの回答分野拡張機能、「回答キャッシュ」や「FAQ回答」による回答精度向上機能などが含まれている。

また、「多機能RAGアプリ」には、「インデックス作成ツール」が付随する。これは、検索用データの作成にあたり、検索精度を向上させるためのメタデータの付与や、マルチモーダルに対応したインデックス作成機能などを実装している。これにより、ドキュメントを投入することで多機能RAGに対応したインデックスデータを作成できる。

操作画面上では、回答のもとになった引用箇所や、フォローアップ質問が表示され、各機能の選択もON/OFF設定の切り替えが可能だ。

IoTNEWS編集部

IoTに関する様々な情報を取材し、皆様にお届けいたします。