«Мегамаркет» научился фильтровать отзывы от нейросетей и ботов
Новая технология «Мегамаркета» позволяет фильтровать отзывы (как позитивные, так и негативные) без конкретных деталей, которые можно разместить под любым товаром. При этом модель обучена так, что вероятность принять комментарий реального пользователя за ИИ-текст минимальна. Пользователи могут не сомневаться, что читают отзывы от покупателей: алгоритм не пропускает ИИ-комментарии и удаляет те, которые были написаны ранее. Продавцы же смогут назначать повышенные бонусы за отзывы и быть уверенными, что их напишут осознанно, без применения нейросетей. Такой подход позволит быстрее наполнить карточки товаров качественными отзывами, повысить конверсию и получить качественную обратную связь, которая поможет доработать продукт и другие процессы.
Даниил Болдин, менеджер продукта карточки товара «Мегамаркета», сказал: «Для создания модели «Мегамаркет» проанализировал жалобы продавцов на комментарии от ботов и выделил паттерны AI-контента. Также ИТ-специалисты совместно со специалистами по пользовательскому контенту рассмотрели отзывы с большим количеством лайков и дизлайков. После этого мы усовершенствовали существующий каскад текстовых моделей, обучив его на сотнях тысяч решений «живых» модераторов, которые проверяли комментарии на соответствие правилам «Мегамаркета»: удаляли нецензурные выражения, оскорбления и комментарии, не относящиеся к товару или продавцу. Результатом работы стал датасет, на котором обучили модель детекции AI-отзывов. Сейчас каждый текст отзыва на «Мегамаркете» оценивает несколько моделей. В зависимости от предварительной оценки, он отправляется на дополнительную проверку к людям или публикуется на сайте».
В результате внедрения новой технологии были выявлены и удалены отзывы, оставленные с 2020 г. по настоящее время, сгенерированные с применением ИИ-технологий. В планах у маркетплейса — итерационно улучшать качество работы модели.
Артем Герасимович, руководитель отдела контент-маркетинга «Мегамаркета», сказал: «Согласно собственным данным, 87% людей принимают решение о выборе товара на маркетплейсе с помощью отзывов. При этом, вместе с ростом популярности и доступности чат-ботов с генеративным искусственным интеллектом появляются новые вызовы для онлайн площадок. Выявлять AI-отзывы без дополнительных технологий стало проблематично, при этом они бесполезны для покупателей, хотя дополнительно влияют на рейтинг и конверсию продавцов. Поэтому «Мегамаркету» понадобился новый алгоритм, чтобы минимизировать количество фейковых комментариев и улучшить пользовательский опыт. В будущем мы планируем и дальше поддерживать высокую планку по качеству оставляемых отзывов и совершенствовать алгоритмы согласно современным вызовам».