Сегодня «Авито» — одна из самых технологичных компаний в России, которая внедряет новейшие инструменты и сервисы и поддерживает мировые стандарты безопасности на платформе. Чтобы это стало возможным, мы прошли путь длиной более десяти лет и до сих пор учимся совмещать безопасность и удобство для пользователей при внедрении каждого нового инструмента защиты.
В первые годы своего существования, как и любой бизнес, мы обращали внимание в первую очередь на удобство пользователей и простоту совершения сделок. Но чем выше рос трафик, и чем больше сервисов мы внедряли, тем очевиднее было, что люди готовы делать крупные покупки только там, где чувствуют себя в безопасности. Так перед нами встала непростая задача: максимально защитить пользователей и при этом не усложнить механизм продаж. На «Авито» должно быть безопасно, выгодно и просто.
Особенно важным повышение уровня безопасности стало в период пандемии, когда многие привычные действия вынужденно перешли в онлайн, а поставки некоторых товаров из-за рубежа шли очень медленно. Люди быстро оценили удобство шеринга и онлайн-покупок. Но там, где много людей, желающих потратить деньги, неизбежно найдется тот, кто решит этим воспользоваться в своих целях и не самым честным путем. Именно в тот период мы всерьез задумались о пересмотре подхода к теме Trust&Safety, а бюджет на реализацию проектов в области безопасности вырос вдвое.
Ежегодно мы вкладываем в безопасность пользователей на платформе 3-4 млрд рублей, то есть, за последние несколько лет мы инвестировали в это направление более 10 млрд рублей.
Количество инструментов, которые защищают наших пользователей, сегодня исчисляется десятками. Среди них — алгоритмы модерации, двухфакторная аутентификация, система цифровых бейджей, которые выдаются по результатам проверок, защита номера, «умный» алгоритм в чате и множество механизмов, скрытых от глаз клиентов. Остановлюсь на некоторых из них подробнее.
Алгоритмы модерации
Ежедневно на «Авито» появляется до 700 тыс. новых объявлений, каждое из которых должно быть проверено на предмет соответствие действующему законодательству и правилам платформы. У нас было три пути. Первый — ручная проверка объявлений до размещения. Это долго и дорого — чтобы обрабатывать такое количество объявлений ежедневно, нам пришлось бы нанять несколько тысяч сотрудников модерации, и все равно требовалось бы как минимум несколько минут для проверки каждого объявления. Другой вариант — выборочная (по факту жалоб) или полная проверка объявлений по факту размещения. Третий — по которому пошли мы — внедрение автоматизированной системы модерации.
Для нас очень важно, чтобы нелегитимный контент отсеивался до публикации.
Ежедневно проверку автоматической системой с использованием механизмов машинного обучения проходит до 5 млн объявлений.
Это минимизирует риск появления на платформе объявлений, нарушающих правила. В 95% случаев система пропускает объявление сразу на платформу: не нужно ждать, когда текст проверит человек. Оставшиеся несколько процентов, в которых система обнаружила признаки возможных нарушений, дополнительно проверяются вручную. В команде модерации сейчас работает почти 500 человек.
Эта же система анализирует действия пользователей на платформе. За день она отслеживает до 8 миллиардов кликов. Если поведение в профиле вызывает подозрения — например, он отправляет одинаковые сообщения, запрашивает предоплату или использует прокси для входа в аккаунт, доступ к нему могут ограничить и отправить аккаунт на дополнительную проверку.
Умный чат
Главные из опасностей, которые подстерегают интернет-пользователей при совершении покупок — это переход по фишинговым ссылкам, передача предоплаты не проверенным продавцам и передача своих персональных данных посторонним. Для нас было важно создать такой канал, в котором все эти риски будут сведены к нулю.
Сегодня в чате «Авито» есть функционал, позволяющий совершать сделки по покупке-продаже товаров фактически в режиме единого окна. Здесь пользователи начинают общение, оформляют «Авито» Доставку, выводят средства за проданный товар. Они могут обмениваться фото и видео товара. Внутри чата работает алгоритм с использованием технологий искусственного интеллекта. Система реагирует на признаки небезопасных действий — например, запрос предоплаты, номера телефона, или отправление фишинговой ссылки, — и предупреждает об этом пользователей. В ряде случаев чат может быть заблокирован, а пользователь, нарушающий правила, получить предупреждение со стороны платформы — неоднократные нарушения могут караться полной блокировкой.
Так мы создали для пользователей защищенный канал коммуникаций, совершение сделок внутри которого максимально безопасно. При этом, у них нет необходимости переходить в сторонние мессенджеры, внутри которых потенциальная возможность обмана все еще сохраняется.
Защита номера
Номера в объявлениях всех частных продавцов на «Авито» скрыты от других пользователей, вместо них показывается специальный защищенный номер, который динамически изменяется каждые несколько часов. Звонки переадресуются на реальный номер. Мы внедрили эту функцию для того, чтобы защитить пользователей от спама, парсинга и других нежелательных звонков и сообщений. Инструмент в том числе показал свою эффективность в защите от злоумышленников. По нашей статистике, абсолютное большинство случаев обмана покупателей происходит вне платформы — в сторонних мессенджерах или по телефону. Сейчас злоумышленник не может напрямую связаться с продавцом вне «Авито».
Компании могут подключить защиту номера в рамках сервиса коллтрекинга. В объявлениях частных продавцов сервис работает по умолчанию, отключить его нельзя. Здесь мы ожидаемо столкнулись с непониманием и недовольством — будет ли услуга мешать продажам? Чтобы исключить такую сложность, мы реализовали связку «покупатель/номер телефона». Сейчас если пользователь связался с продавцом с использованием защитного номера из объявления, система запоминает эту связку, и еще как минимум две недели, набирая тот же номер, он попадет к тому же продавцу. Так у них есть возможность спокойно завершить сделку.
Согласно нашим данным, внедрение защиты номера никак не отразилось на среднем количестве успешных сделок у продавцов, при этом, число жалоб на нежелательные звонки снизилось на 40%.
Система дополнительных проверок и цифровых бейджей
Несколько лет назад мы внедрили систему дополнительных проверок для подтверждения подлинности профиля. Загрузив в систему свои документы или реквизиты организации, можно получить значки «Документы проверены» или «Реквизиты проверены». Физлица могут подтвердить профиль через систему ЕСИА и приложение «Госключ». Работодателям доступна проверка по ИНН — если система подтвердит, что организация — не банкрот и не имеет жалоб от наших пользователей, она получит значок «Компания проверена». А автодилеры и риелторские агентства могут пройти специальную проверку на соответствие правилам «Авито». Если несколько таких проверок покажут, что компании можно доверять, она получает бейдж «Проверенный партнер».
Помимо очевидного плюса для покупателей или соискателей, которым легче ориентироваться на платформе и принимать решение, система цифровых бейджей помогает и селлерам.
По нашей статистике, те объявления, авторы которых имеют отметки о пройденных проверках, в среднем привлекают на 20% больше трафика.
Двухфакторная аутентификация
В конце прошлого года мы внедрили функционал двухфакторной аутентификации. — дополнительного подтверждения входа в профиль с нового устройства при помощи кода из смс или пуш-уведомлений. Профиль «Авито» — это не просто набор объявлений. Это рейтинг продавца, история сделок, контакты в «Избранном», цифровые бейджи. Принимая решение о сделке пользователи обращают внимания на все эти детали.
А значит, «хорошие» профили становятся объектом интереса злоумышленников, которые могут попытаться завладеть ими.
Те продавцы, которые давно работают на платформе и дорожат репутацией, понимают это, и используют возможность защитить данные аккаунта. Сегодня функцию подключили уже 15 миллионов человек. При внедрении «двухфакторки» для нас было важно не осложнить работу с платформой, поэтому проверочный код нужно ввести только один раз на одном устройстве — все последующие заходы с него будут производиться без дополнительной проверки. При этом, если система обнаруживает подозрительные признаки, указывающие на то, что к профилю получил доступ посторонний, она может настойчиво предлагать ввести код проверки. В этом случае лучше всего поменять пароль от «Авито» и привязанной к профилю почты.
Доставка
Чтобы обеспечить безопасность не только на этапе переговоров о сделке, но и в процессе ее совершения, «Авито» внедрил собственный сервис доставки, работающий по принципу «безопасной сделки». Все действия по оформлению заказа, оплате и выводу средств происходят в чате на платформе. Защиту получает и покупатель и продавец. После оплаты заказа деньги резервируются на специальном защищенном счете, и отправляются продавцу только после того, как получатель осмотрел посылку и убедился, что товар ему подходит. При этом, если в процессе пересылки с товаром что-то произойдет, его стоимость частично или полностью компенсируется продавцу.
Обучение пользователей
Внедрение технических средств — необходимое действие, но само по себе оно не могло на 100% обеспечить достижения необходимого нам эффекта.
Для нас было важно разрушить стереотип «Авито» =мошенники», не дать злоумышленникам шанса использовать бренд для совершения преступлений.
Поэтому одновременно с развитием инструментов защиты мы начали инвестировать в повышение цифровой и финансовой грамотности пользователей «Авито» — а это, к слову, каждый пятый взрослый житель России. Мы создали специальный раздел, посвященный безопасности, на платформе, реализуем совместные проекты с крупными СМИ (например, в начале года выпустили спецпроект с правилами безопасности в бортовых журналах РЖД и крупных авиакомпаний), сотрудничаем с федеральными и региональными ведомствами и НКО — проводим совместные пресс-конференции, мастер-классы, прямые эфиры. Для того чтобы рассказать о правилах безопасности в позитивном ключе, в январе мы запустили информационную кампанию «Правила безопасности», лицом которой стал Леонид Агутин. Кампания собрала огромное количество теплых откликов, люди делились роликом, а опрос, проведенный по окончании, показал, что половина посмотревших видео стали больше доверять бренду.
Система сейчас работает по принципу «снаряд-броня»: мы совершенствуем алгоритмы поиска нарушений, злоумышленники их анализируют и пытаются находить новые пути обхода. И все чаще выходим победителями.
За последние два года мы стали получать в 20 раз меньше жалоб на действия скамеров.
Активность на платформе при этом растет. Сейчас «Авито» — это более 103 млн активных объявлений. Каждую секунду на платформе совершается семь сделок. Сейчас если вы совершаете сделку, не выходя за пределы платформы, вы просто не оставляете злоумышленникам шанса вас обмануть.
В перспективе мы должны прийти к такой ситуации, когда обход наших систем безопасности станет для скамеров настолько дорогим, что для них станет невыгодно вкладываться в обход механизмов защиты. К этому мы и стремимся — чтобы обманывать наших пользователей стало просто невыгодно. Наш опыт показывает, что комплексный подход к повышению безопасности дает отличный эффект, поэтому мы продолжаем двигаться в этом направлении, внедрять новые технологии защиты и рассказывать об этом.