21 Октября 2022 14:12 21 Окт 2022 14:12 |

Поделиться

Андрей Рыбинцев, «Авито»: За два года безопасность на платформе выросла в 20 раз

«Чем больше у профиля значков доверия, тем больше внимания покупателей»

CNews: Чем занимается департамент Trust&Safety в «Авито», и когда он появился?

Андрей Рыбинцев: Нашей платформой ежемесячно пользуются больше 56 млн россиян, и департамент Trust&Safety отвечает за их безопасность. На площадке покупатели знакомятся с продавцами, и мы стараемся сделать так, чтобы они доверяли друг другу. И, конечно, чтобы доверяли платформе. Это сложная задача, учитывая, что на «Авито» опубликовано более 120 млн объявлений, и в день нужно проверять по 5-10 млн из них.

Департамент возник в 2019 г., сейчас в подразделении работают около 800 человек. Хотя и до его образования в компании были сильные команды по модерации и серьезный фокус на безопасность. Три года назад темпы роста заметно увеличились, а пандемия дополнительно усилила этот тренд, что потребовало нового подхода к защите пользователей. Чем больше сервис, тем больше вызовов, а с ними — и инвестиций в безопасность.

CNews: Расскажите, как выстроена работа в подразделении.

Андрей Рыбинцев: В моей команде работает более 800 человек, которые занимаются модерацией платформы, внедрением и развитием технических средств защиты пользователей. Примерно 350 человек работает в ИТ-команде: это разработчики, аналитики, data-scientist, менеджеры продукта, руководители, дизайнеры. Они разрабатывают и внедряют продукты для повышения чистоты сделок и доверия между пользователями, алгоритмы для выявления нарушений. Остальные 500 работают над чистотой контента — это эксперты ручной модерации, которые разбирают сложные случаи или проверяют уже размещенные объявления вторым эшелоном.

Все ребята — профи в своем деле. Например, если говорить о модерации: алгоритмы настроены на распознавание определенных триггеров, которые помогают выявить объявление, нарушающее наши правила. Эксперты регулярно выявляют новые триггеры и донастраивают систему — на это у нас могут уйти считанные минуты.

CNews: Что вы делаете для повышения безопасности на платформе? Такая крупная площадка наверняка привлекает не только добросовестных продавцов, но и злоумышленников?

Андрей Рыбинцев: В интернете, как и в обычной жизни, на несколько тысяч хороших людей всегда может найтись один негодяй. На своей платформе мы внедряем технические средства для того, чтобы отличать одних от других и оперативно ограничивать доступ для недобросовестных пользователей.

Алгоритмы на основе технологий машинного обучения анализирует контент и действия пользователей на платформе — за день система отслеживает до 8 млрд кликов, проверяет более 5 млн активных объявлений. Технология проверяет каждый профиль, отзывы, оценивает репутацию. Если у человека уже есть 20-30 сделок — это одна история, если ноль — другая. Если он замечен в подозрительной активности — использует технические средства для анонимизации, например, антидетект-браузер, чтобы скрыться от наших систем, — мы тоже быстро это вычисляем. Такие аккаунты могут отправить на дополнительную проверку.

Автоматизация процесса позволяет нам обеспечить в том числе полную премодерацию объявлений. Если бы каждое из них проверялось человеком, это занимало бы часы или даже дни, алгоритму же требуется всего несколько секунд.

CNews: Вы как-то поощряете добросовестных продавцов?

Андрей Рыбинцев: Мы используем систему, которую я характеризую как «кнут и пряник». Мы даем преимущества тем, кто соблюдает правила площадки — это большая часть наших пользователей. Они, конечно, должны получать максимальные преимущества.

Например, для продавцов существуют разные возможности подтверждения подлинности профиля — они могут загрузить документы или реквизиты компании получить цифровой бейдж от «Авито»: «Документы проверены» или «Реквизиты проверены». Или пройти проверку с использованием личного кабинета на «Госуслугах». С такими бейджами продавцы получают примерно на 20% больше внимания покупателей, им намного проще вести бизнес.

CNews: Какие еще цифровые бейджи может получить продавец?

Андрей Рыбинцев: Одни бейджи платформа выдает автоматически, другие — после прохождения добровольной проверки. Первые достаются, например, продавцам, которые заключают много сделок и активно пользуются «Авито Доставкой».

А «Документы проверены» может получить продавец в любой вертикали. Есть также специализированные значки, которые выдают по итогам проверок за высокие стандарты качества контента и сервиса в каждой категории: «Собственник» в «Недвижимости», «Компания проверена» в «Работе», «Проверенный партнер». Специальным бейджем «Только на Авито» отмечаются уникальные объявления в «Авито Недвижимость» — те, что не представлены на других платформах.

CNews: А как работает система рейтингов и отзывов на платформе?

Андрей Рыбинцев: Специфика классифайдов заключается в том, что для нас физически невозможно самостоятельно оценить товар или услугу каждого продавца на платформе. Система рейтингов и отзывов создана для того, чтобы покупателям было проще ориентироваться в многообразии предложений. Рейтинг в профиле появляется после первой поставленной оценки для частных продавцов, и после трех — для компаний. Чем больше отзывов и чем выше рейтинг, тем выше доверие потенциальных покупателей.

После того, как человек оставил о продавце отзыв, тот уже не сможет его удалить самостоятельно. Все отзывы модерируются — система анализирует, взаимодействовал ли в действительности человек с продавцом, состоялась ли сделка. Если сделка прошла мимо «Авито», покупатель и продавец общались в других мессенджерах, отзыв могут отклонить или запросить дополнительные документы. Это надежная защита от «накрутки» отзывов: когда продавец просит знакомых написать хороший отклик или наоборот конкуренты пытаются снизить рейтинг друг другу.

«Если покупатель общается с продавцом, не покидая нашу площадку, он защищен»

CNews: Как департамент борется с нарушителями?

Андрей Рыбинцев: Да, к сожалению, одним пряником проблем не решить, попадаются и те, кого от платформы нужно отдалить, например, за недопустимую активность с точки зрения наших правил или российского законодательства. Кто-то пытается продавать запрещенные товары, кто-то размещает дубли объявлений и вводит людей в заблуждение.

Иногда продавец ставит в объявлении не ту цену, за которую на самом деле согласен продать. Или когда указанное в параметрах объявления о продаже, например, квартиры, не соответствует тому, что в тексте. Часто люди нарушают правила неумышленно, например, не знают, что нельзя дублировать одинаковое объявление с двух профилей.

Бывает такое, что деятельность продавцов не запрещена, но может повлечь негативные последствия, социальную напряженность. Например, мы декларируем, что каждый продавец вправе сам устанавливать цену на свой товар, а покупатель сам решает, согласиться ли на то или иное предложение. Но если на какие-то товары возникает повышенный спрос, модерация следит за тем, чтобы средняя цена на них оставалась «в рынке», не допуская спекуляций. К примеру, во время пандемии и в марте 2022 г. «Авито» контролировал цены на товары первой необходимости — медицинские масками, гречку, сахар. Мы можем вообще удалить с платформы какую-то категорию, если считаем, что ее присутствие создает дополнительные риски для пользователей. Так мы поступили, например, с IPhone 14 до старта продаж — заблокировали возможность предзаказа с использованием нашей платформы.

Мы работаем превентивно: задача нашей команды — заранее вычислить всех, кто пытается провернуть что-то сомнительное, и устранить до того, как он успеет причинить вред кому-то из пользователей.

CNews: Борьбой со злоупотреблениями занимается отдельная команда?

Андрей Рыбинцев: Да, у нас есть коллективы, которые работают над продуктами, и те, кто отвечает за рейтинги, отзывы и цифровые бейджи. А есть команды, которые создают алгоритмы модерации и проводят проверки злоумышленников.

Например, человек пытается продать животное из «Красной книги», одна из моделей может распознать животное, проверив его по базе. Проверяется не только текст, но и фото. Любой нелегитимный контент быстро блокируется.

Если ИИ не хватает уверенности для вынесения решения, а это примерно 1-3% подозрительных объявлений, они отправляются на дополнительную проверку к экспертам. На случай, если система пропустила сомнительный контент, есть постмодерация — третий эшелон проверки.

CNews: Какие еще технологии для защиты пользователей на платформе можно назвать? Что используется для профилактики мошенничества, спама?

Андрей Рыбинцев: Мы стараемся обезопасить весь путь пользователя от регистрации до совершения сделки. Например, машинное обучение, о котором я говорил применительно к системе модерации, используется также в мессенджере «Авито». Система реагирует на триггеры в сообщениях, которые могут указывать на потенциально небезопасное поведение. При общении в WhatsApp или других сторонних мессенджерах вам могут прислать фишиновую ссылку, в чате Авито такие ссылки блокируются.

Алгоритмы умеют распознавать не только одинаковые сообщения, но и оценивать схожесть разных текстов, когда одно и то же написано разными словами. Блокируются и нерелевантные сообщения, когда в профиле продавец продает машину, а в мессенджере — стоматологические услуги.

«Защита номеров снизила число нецелевых звонков на 40%»

CNews: Расскажите о функции «Безопасный вход», как она работает?

Андрей Рыбинцев: «Безопасный вход» представляет собой двухфакторную аутентификацию пользователя через push-сообщение или SMS. Технология дополнительно защищает аккаунт от внешнего проникновения, чтобы доступ к нему не получил злоумышленник. Это базовая гигиена.

Дело в том, что в аккаунтах может быть много ценной информации, которую нужно защищать — тот же рейтинг и отзывы зарабатываются иногда годами, и никому не хочется, чтобы доступ к его «прокаченному» профилю получил незнакомец.

CNews: Есть ли на платформе защита от парсинга?

Андрей Рыбинцев: Да, у нас есть технические средства для противодействия парсингу, мы защищаем персональные данные пользователей. Для каждого частного продавца на «Авито» используется защита номера.

Работает это так: мы выдаем продавцу временный номер, который динамически изменяется каждые несколько часов, чтобы сохранять его и потом звонить на него с предложениями не было никакого смысла. Вы разместили объявление, покупатель нажал кнопку «позвонить» — и увидел временный номер, звонок при этом переадресуется вам напрямую. Одновременно выстраивается связка между вашим настоящим номером, временным и номером звонящего, которая может сохраняться около двух недель, чтобы вы могли завершить сделку. Сделка прошла — связка разорвалась, дозвониться до вас по тому же номеру больше невозможно.

Эта функция подключена для всех частных продавцов, а вот профессиональные продавцы могут выбирать, хотят они подключить защиту номера или нет. Компании часто размещают в аккаунтах рабочий номер телефона, скрывать который нет большого смысла.

Мы распространили защиту номера на всех частных пользователей чуть больше полугода назад, и количество нецелевых звонков в первые же месяцы упало на 40%.

CNews: Какие технологии защиты «Авито» разрабатывает сам, а какие с помощью сторонних вендоров?

Андрей Рыбинцев: 95% технологий и алгоритмов созданы in-house, над ними трудилась наши разработчики и специалисты по изучению данных. Также внешние решения не используются для анализа разных типов данных — кликов пользователя, картинок, текстов. В то же время у нас много историй про обмен опытом с другими компаниями в этой области.

CNews: Есть ли какая-то статистика, например, как удалось снизить количество инцидентов с участием скамеров после внедрения новых технологий защиты?

Андрей Рыбинцев: За последние два года мы смогли снизить количество жалоб на скам в 20 раз. Это удалось сделать за счет комплексной работы. Это как организация дорожного движения. Можно выстроить защищенный периметр — поставить светофоры, знаки, нарисовать разметку. Но это не будет работать, если не объяснить людям правила. Каждый должен понимать, что, условно говоря, переходя на красный свет, он не обязательно попадет в беду, но берет этот риск на себя.

Поэтому мы обучаем пользователей правилам безопасных сделок в интернете: проводим мероприятия, мастер-классы, выпускаем обучающие материалы. Недавно мы первыми на рынке выпустили собственную игру в Telegram, обучающую технологиям безопасных сделок. Она вызвала невероятный интерес — на сегодня игру прошли более 45 тысяч пользователей, они запустили почти 220 тысяч игровых сессий.

Наша цель — сделать «Авито» одной из самых безопасных платформ в мире, обойти защиту которой настолько сложно, что это просто невыгодно делать. И те результаты, которые уже получила наша команда, позволяют верить в то, что это реализуемо.

Поделиться

Подписаться на новости Короткая ссылка