Сибирь AI

Речевая аналитика: что это и как работает анализ звонков

Речевая аналитика переводит записи разговоров в текст и считает по ним показатели: кто сколько говорил, где молчали, где перебивали, прозвучали ли нужные слова. Здесь собрано, как это описывают сами поставщики, где такие системы ошибаются и что из этого умеет наша расшифровка, а чего не умеет.

Обновлено . Текст подготовил ООО «ФИИ», источники в конце страницы.

Что такое речевая аналитика

Речевая аналитика это программы, которые разбирают записи разговоров: переводят речь в текст, отмечают, кто говорил, ищут нужные слова и темы и считают показатели разговора. Чаще всего ее применяют к звонкам в колл-центре и в отделе продаж.

Яндекс в документации своей платформы описывает это так: она распознает и анализирует аудиозаписи разговоров, извлекает из них текст, классифицирует обращения и формирует отчеты. Amazon говорит о том же другими словами: анализ звонков нужен, чтобы понять, как проходит разговор оператора с клиентом. У Google в том же ряду стоят поиск тем, ради которых звонят, и контроль качества работы операторов.

Как работает речевая аналитика звонков

Анализ звонков с ИИ складывается из нескольких шагов. Каждый следующий опирается на предыдущий, поэтому ошибка в начале тянется до конца.

  1. Распознавание речи. Запись превращается в текст с метками времени. Современные модели обучают на очень больших объемах: открытую модель Whisper ее авторы обучали на 680 тысячах часов записей.
  2. Разделение по говорящим, или диаризация. Программа отвечает на вопрос «кто говорил когда» и помечает реплики разных людей. Amazon для анализа звонков требует двухканальную запись: оператор в одном канале, клиент в другом. Тогда разделять голоса не нужно, их разделила сама телефония.
  3. Поиск слов и тем. Система ищет в тексте заданные фразы, например обязательное приветствие или предупреждение, и группирует звонки по темам. У Amazon поиск фразы идет по точному совпадению с расшифровкой.
  4. Оценка тона. Каждой реплике или части разговора ставится оценка: положительно, нейтрально, отрицательно. Google выражает ее числом и словесной меткой.
  5. Показатели и отчеты. По меткам времени считаются паузы, перебивания, доля речи каждого участника, а по итогам строятся отчеты по операторам и темам.

Из третьего шага следует простая вещь: если распознавание ошиблось в ключевом слове, точная фраза в тексте не найдется, и звонок не попадет в нужную группу.

Какие показатели считает речевая аналитика

Набор у поставщиков похожий. Ниже то, что описано в документации Amazon и Google.

  • Тишина. Отрезки, где никто не говорит. Google учитывает паузы длиннее пяти секунд и показывает их долей от всего разговора. Долгая тишина часто означает, что клиента держат на ожидании.
  • Перебивания. Перебил ли один участник другого посреди фразы. Amazon отмечает, что частые перебивания бывают связаны с раздражением.
  • Доля речи. Сколько времени говорил каждый. По ней видно, ведет ли разговор один человек или это диалог.
  • Темп речи. Сколько слов в минуту произносит каждый участник.
  • Громкость. По ней Amazon предлагает замечать, что кто-то повышает голос.
  • Тон. Оценка того, как настроен клиент, а у Amazon и оператор.

Тишина и перебивания считаются по времени, а не по словам. Google прямо пишет, что для них не нужна поддержка конкретного языка: они меряют, когда человек замолкает. Зато они зависят от того, насколько верно разделены голоса.

Для анализа звонков менеджера по продажам обычно смотрят на те же величины: доля речи менеджера, перебивания клиента, прозвучали ли обязательные фразы. Пороги у поставщиков разные, поэтому одна и та же запись в двух системах может дать разную долю тишины.

Где речевая аналитика ошибается

Все показатели стоят на распознавании и разделении голосов. Если они ошиблись, отчет будет аккуратным и неверным.

  • Качество записи. В исследовании точности распознавания на модели Whisper различия в том, как делались записи, заметно влияли на точность. Телефонный канал узкий и сжатый, поэтому звонок распознается хуже записи с микрофона, об этом подробнее на нашей странице про звонки.
  • Акценты и диалекты. Разработчики Whisper пишут, что модель работает неровно на разных акцентах и диалектах. В том же исследовании разница по диалекту частично уменьшалась дообучением модели.
  • Додуманный текст. По словам разработчиков, Whisper может выдать текст, которого в записи не было. Для отчета по ключевым словам это опасно: найдется фраза, которую никто не говорил.
  • Перебивания и одновременная речь. Когда двое говорят разом, разделить их по одной дорожке нельзя. Короткие реплики вроде «да» и «угу» часто приписываются соседу. Обзор соревнования DIHARD III отмечает, что на разговоре двоих разделение по говорящим заметно улучшилось, а на многих других типах записей задача далека от решения.
  • Тон. У Amazon оценка тона готовая и не настраивается под конкретный бизнес. Google оценивает тон только у клиента.

Отсюда практическое правило: прежде чем доверять отчету, переслушайте десяток звонков, на которых система поставила флажок, и десяток, на которых не поставила.

Можно ли анализировать звонки без отправки записей в облако

Можно, но это вопрос установки, а не настройки. Модель распознавания ставится на свой сервер, и записи никуда не уходят.

  • Яндекс предлагает SpeechKit Hybrid: те же модели распознавания, работающие внутри инфраструктуры заказчика. Речевая аналитика Яндекса в составе платформы для своего контура лицензируется отдельно.
  • Открытая модель Whisper распространяется по лицензии Apache 2.0, и локальная нейросеть для транскрибации ставится на свой компьютер или сервер. Нам для большой модели нужна видеокарта NVIDIA с памятью от 5 ГБ. Но это только первый шаг: поиск фраз, показатели и отчеты к ней придется собирать отдельно.

У зарубежных сервисов есть и языковая граница. В таблице языков Amazon Transcribe русский распознается, а анализ звонков для русского не отмечен.

Почему это важно. Запись звонка, где звучат имя, номер договора или телефон, содержит персональные данные: по закону № 152-ФЗ это любая информация о прямо или косвенно определяемом человеке. При сборе таких данных о гражданах России закон не допускает их записи и хранения в базах за пределами России, кроме названных в нем случаев. Это не юридическая консультация, а повод проверить, куда уходят ваши записи.

Что из этого можно сделать нашей расшифровкой

Готового сервиса речевой аналитики у нас нет. Есть расшифровка записей, которая закрывает первые два шага из пяти.

  • Текст звонка с метками времени. На странице транскрибации звонков загружается готовый файл записи.
  • Разделение по говорящим. Реплики подписываются как «Говорящий 1» и «Говорящий 2», имен программа не знает. Проверено на синтезированном диалоге трех голосов, на живых звонках не мерилось.
  • Выгрузка в JSON: фразы и слова со временем начала и конца и говорящими. Из этих данных можно самостоятельно посчитать долю речи каждого участника и паузы. Сами мы такой отчет не делаем, и точность такого подсчета на звонках не мерили.

Про точность. На открытом наборе начитанной речи FLEURS, 775 записей, доля ошибок в словах 4,1 процента. На звонок это число не переносится, а на шумных записях замера у нас нет. Как мерили, сказано на странице про точность.

Чего расшифровка не делает: не определяет эмоции и не оценивает менеджера, не подключается к телефонии, не ищет обязательные фразы, не выделяет решения и поручения. Через сайт можно расшифровать до часа записи в сутки, поток звонков так не разобрать.

Где считается. По странице расшифровки, запись принимает наш сервер в России и в зарубежные облака не уходит. Исходная запись удаляется сразу после расшифровки. Если записи нельзя выпускать из своей сети вообще, модель Whisper можно поставить у себя, своей программы с установщиком у нас нет.

В документации Сибирь.Диалог описан модуль разбора записей разговоров, но работающего разбора на сайте мы не показываем, и замеров его качества нет. Разработку на заказ мы не ведем: ООО «ФИИ» не принимает заказы на разработку по заданию третьих лиц.

Частые вопросы

Что такое речевая аналитика простыми словами

Программы, которые переводят записи разговоров в текст и считают по ним показатели: кто сколько говорил, где были паузы и перебивания, прозвучали ли нужные фразы, какой был тон.

Чем речевая аналитика звонков отличается от расшифровки

Расшифровка дает текст разговора. Речевая аналитика начинается с расшифровки, а потом ищет в тексте фразы и темы, считает паузы и долю речи и строит отчеты по многим звонкам сразу.

Какие показатели считает речевая аналитика

Обычно тишину, перебивания, долю речи каждого участника, темп речи, громкость и тон. Тишина и перебивания считаются по времени, поэтому зависят от того, насколько верно разделены голоса.

Можно ли анализировать звонки без отправки записей в облако

Да, если поставить модель распознавания на свой сервер. Так устроены SpeechKit Hybrid у Яндекса и открытая модель Whisper. Поиск фраз и отчеты к открытой модели придется собирать отдельно.

Есть ли у вас сервис речевой аналитики

Готового сервиса нет. Есть расшифровка звонков с метками времени и разделением по говорящим. Эмоции и оценку менеджера она не определяет.