デロイト トーマツ コンサルティング合同会社(以下、デロイト トーマツ)は、大規模言語モデル(以下、LLM)に企業のデータベースを接続するRAG(Retrieval Augmented Generation)の利便性や精度を向上させる技術を集約した多機能RAGアプリケーション(以下、多機能RAGアプリ)を開発した。
RAGは、生成AIが企業内のデータを活用する際の有用な手段だが、技術課題も多数存在する。例えば、「大量のドキュメントから必要な情報を適切に検索できない」「視覚的情報を読み取れない」「複数の問いを含む複合的な質問に対応できない」「自社独自の用語をLLMが理解できないため回答が正確でない」などの課題が確認されている。
そこで今回開発された「多機能RAGアプリ」では、ユーザの問いから回答までの過程で利用可能な機能を備えている。
具体的には、「サブクエリ検索」や「2段階検索」による検索精度向上機能、「マルチモーダル」や「独自用語集」によるLLMの回答分野拡張機能、「回答キャッシュ」や「FAQ回答」による回答精度向上機能などが含まれている。
また、「多機能RAGアプリ」には、「インデックス作成ツール」が付随する。これは、検索用データの作成にあたり、検索精度を向上させるためのメタデータの付与や、マルチモーダルに対応したインデックス作成機能などを実装している。これにより、ドキュメントを投入することで多機能RAGに対応したインデックスデータを作成できる。
操作画面上では、回答のもとになった引用箇所や、フォローアップ質問が表示され、各機能の選択もON/OFF設定の切り替えが可能だ。
無料メルマガ会員に登録しませんか?
膨大な記事を効率よくチェック!
IoTに関する様々な情報を取材し、皆様にお届けいたします。