Стандартный WER (Word Error Rate) современных моделей ASR на узкоспециализированных терминах вырастает с 5-8% до 25-40%, что делает текст непригодным для бизнеса без ручной правки. Решение проблемы лежит в плоскости внедрения пользовательских словарей, которые при правильной настройке снижают частоту ошибок в именах и брендах на 60-80%.
Метод Prompting: контекстная подсказка модели
В современных LLM-ориентированных моделях (например, OpenAI Whisper через API или локальные реализации с расширенным промптом) передача списка ключевых слов в поле 'prompt' позволяет сместить вероятности токенов. Это работает за счет того, что модель видит слова в контекстном окне до начала генерации. Однако эффективность метода падает при длине списка более 50-70 слов: начинается «размытие» внимания, и точность распознавания редких брендов падает с 85% до 60%.
Кейс: при транскрибации интервью с IT-директором список из 20 терминов (Kubernetes, Terraform, Kafka) в промпте поднял точность их написания с 40% до 92%. Но как только список разросся до 150 позиций, модель начала галлюцинировать, вставляя эти слова в случайные места предложения. Экспертный вывод: промптинг идеален для коротких сессий (до 30 минут), но бесполезен для массовой обработки архивов.
Фонетические словари и Bias-списки в ASR
Более глубокий уровень — использование Bias-листов (в Google Speech-to-Text или Azure Speech), где вы указываете не просто слово, а его фонетическую запись или вес (boost). Повышение веса слова на 2-5 единиц заставляет декодер отдавать приоритет этому варианту при схожести звуков. Это критично для брендов с необычным написанием, например, «SaaS-платформа Xyzzy», которую стандартный ИИ превратит в «изи» или «ксизи».
Опыт показывает, что перебор с бустом (значение >10) ведет к «эффекту магнита»: модель начинает превращать любые похожие звуки в слово из словаря, что увеличивает количество ложноположительных срабатываний на 15-20%. Экспертный вывод: оптимальный диапазон буста — от 2 до 7 единиц; выше — риск испортить общую связность текста.
Дообучение (Fine-tuning) против адаптации словаря
Полное дообучение модели на специфическом датасете (от 100 до 1000 часов размеченного аудио) дает максимальный результат, но стоит дорого: от $2 000 до $15 000 за итерацию с учетом оплаты GPU-мощностей и работы лингвиста. В сравнении с этим, внедрение внешнего глоссария через пост-процессинг (замена по регулярным выражениям или через семантический поиск) обходится почти бесплатно, но имеет точность лишь 70-75%, так как не учитывает контекст.
Пример: для медицинского центра дообучение модели на терминах сократило время коррекции текста с 40 минут до 10 минут на час записи. Однако для бизнеса с часто меняющимися названиями продуктов (маркетинг, e-com) дообучение бессмысленно — модель устаревает за 3 месяца. Экспертный вывод: выбирайте дообучение только при неизменном глоссарии объемом более 500 терминов и наличии бюджета на GPU.
Архитектурные риски и влияние контекстного окна
Важным нюансом является взаимодействие словаря с размером окна контекста. В моделях с фиксированным окном (например, 30 секунд в Whisper) слишком длинный список кастомных токенов «съедает» полезное пространство, что может привести к обрыву фраз или потере связности. Это напрямую коррелирует с тем, как работает анализ точности ИИ-транскрибации при работе с аудио-записями разной длительности: влияние размера окна контекста на связность текста становится критическим при перегрузке словарем.
Технический риск: при использовании тяжелых внешних глоссариев задержка обработки (latency) может вырасти на 10-15%, что критично для систем real-time транскрибации. Экспертный вывод: для стриминга используйте только легкие Bias-листы, для офлайн-обработки — комбинируйте промптинг и пост-процессинг через LLM.
Вывод
Мой вердикт: для 90% бизнес-задач оптимальным является гибридный стек — Whisper (для базового распознавания) + LLM-постпроцессинг (для исправления имен по глоссарию). Это дешевле дообучения в 100 раз и точнее простого промптинга. Избегайте перегрузки моделей Bias-листами более 100 слов — это ведет к деградации смысла. Начинайте с малого: соберите топ-50 самых частотных ошибок вашего домена и внедрите их через промпт; если точность не достигла 95%, переходите к семантическому пост-процессингу.