ナレッジフロー、電話自動応答サービスに生成AI機能を搭載しカスハラ検知・規制を自動化

株式会社ナレッジフローは、同社が提供する電話の自動応答サービス「IVR+（アイブイアールプラス）」において、カスタマーハラスメント（以下、カスハラ）の防止・抑止を目的とした「カスハラ対策機能」の提供を、2025年9月11日より開始した。

従来のカスハラ対策は「特定の単語」に反応する単語登録による判定が主流であった。しかし、単純な単語登録では通常の文脈で使われる際にも反応してしまうケースや、直接的な言葉を避けて行われる悪質な表現への対応ができない状況であった。

そこで今回発表された「カスハラ対策機能」では、生成AIにより会話の文脈・言外のトーン・発言の意図を深層学習によって解析。従来のシステムでは検知できなかった間接的な攻撃性や不当な要求も認識・評価する。

また、警告段階であるカスハラランク1は生成AIが、対応制限段階であるランク2は人間が判断することで、AIの誤判断も防げる仕組みになっている。

なお、同機能は、東京都が定めるカスタマーハラスメント対策に関する奨励金制度の支援要件に準拠しており、導入することで申請条件を満たすことが可能だ。

関連記事：コールセンターにおける課題とは？AI活用でコスト削減・業務効率化・応対品質向上に成功した事例を紹介

IoTNEWS編集部

IoTに関する様々な情報を取材し、皆様にお届けいたします。