У заказчика уже был действующий чат-бот для фильтрации спама, работающий на линейных алгоритмах. Однако со временем спамеры научились обходить такие правила: сообщения генерировались без стоп-слов и выглядели уникальными, из-за чего защита теряла эффективность.

Задача состояла в том, чтобы усилить систему за счёт нейросетевой модели, способной распознавать спам по смыслу, а не только по формальным признакам.

Мы внедрили модель классификации на базе машинного обучения, обучив её на накопленной базе спам-сообщений, а также на «белых списках» корректных сообщений. В результате модель научилась отличать нежелательный контент от нормального общения даже в случаях, когда отсутствуют очевидные маркеры спама.

В ходе работы модель оценивает каждое сообщение и рассчитывает вероятность того, что оно является спамом. Если значение превышает заданный порог (оптимальным оказалось значение 65%), сообщение автоматически блокируется. Этот параметр можно настраивать, регулируя чувствительность фильтра.

Решение было интегрировано в существующий чат-бот как дополнительный уровень защиты, анализируя сообщения, которые пропускают базовые алгоритмы.

Результат: значительное повышение точности фильтрации и снижение количества спама без ухудшения пользовательского опыта.