株式会社ナレッジフローは、同社が提供する電話の自動応答サービス「IVR+（アイブイアールプラス）」において、カスタマーハラスメント（以下、カスハラ）の防止・抑止を目的とした「カスハラ対策機能」の提供を、2025年9月11日より開始した。
従来のカスハラ対策は「特定の単語」に反応する単語登録による判定が主流であった。しかし、単純な単語登録では通常の文脈で使われる際にも反応してしまうケースや、直接的な言葉を避けて行われる悪質な表現への対応ができない状況であった。
そこで今回発表された「カスハラ対策機能」では、生成AIにより会話の文脈・言外のトーン・発言の意図を深層学習によって解析。従来のシステムでは検知できなかった間接的な攻撃性や不当な要求も認識・評価する。
また、警告段階であるカスハラランク1は生成AIが、対応制限段階であるランク2は人間が判断することで、AIの誤判断も防げる仕組みになっている。
なお、同機能は、東京都が定めるカスタマーハラスメント対策に関する奨励金制度の支援要件に準拠しており、導入することで申請条件を満たすことが可能だ。