Google: машинное обучение полезно для Карт и вредно для мошенников

Когда речь заходит о том, чтобы найти дорогу, Google Maps – одно из лучших в мире приложений для этого. Кроме Apple Maps, у него нет конкурентов.

Его твёрдое положение на устройствах Android, а также постоянное расширение функций сыграли большую роль в популярности приложения Maps. Но то, что позволяет сохранить точность данных в приложении, – это постоянный вклад пользователей, будь то отзывы, фотографии или сообщения о дорожных пробках.

Но, как и в любой другой сфере, где пользовательский контент является источником информации, это место окупируют мошенники: они оставляют сомнительные ссылки, несуществующие предприятия и даже хуже.

Команда Google Maps рассказала о некоторых подробностях, что происходят за кулисами обнаружения мошеннического контента, обычно еще до того, как он появляется в сервисе.

Учитывая, что все данные стекаются на серверы Google, логично, что в основе защиты Карт от мошенников лежат модели машинного обучения. Поисковый гигант заявил, что в 2022 году он внедрил обновление в эти модели, которое в конечном итоге помогло им выявлять мошенников быстрее, чем раньше.

Приводя один из примеров выявления мошенников, Google сообщил в своем блоге, что его автоматизированные системы обнаружили всплеск числа бизнес-профилей с доменами .design или .top.

Аналитики подтвердили, что это были поддельные сайты, и команда быстро отключила аккаунты Google, связанные с этими доменами.

Google также отметил, что в прошлом году было пресечено 20 миллионов попыток создания мошеннического бизнес-профиля, что на 8 миллионов больше, чем в 2021 году, и введены новые меры защиты для более чем 185 000 предприятий, ставших объектами мошенничества или злоупотреблений.

В общей сложности Maps удалила или заблокировала более 115 миллионов отзывов, которые были сочтены нарушающими ее политику. Новая модель продемонстрировала 20% увеличение количества удаленных мошеннических отзывов в 2022 году по сравнению с предыдущим годом.

Компания обнаружила, что некоторые мошенники наклеивают поддельные номера телефонов на фотографии витрин магазинов, чтобы обмануть и привлечь ничего не подозревающих пользователей Карт от Google.

Для борьбы с этими новыми векторами атак Google применил еще одну новую модель машинного обучения, позволяющую определять номера, размещенные поверх существующего изображения, “путем анализа конкретных визуальных деталей и расположения фотографий”, – заявили в компании.

Эти методы раннего обнаружения предположительно помогли Google заблокировать большую часть измененных изображений до того, как мошенники успели их опубликовать.

В общей сложности 200 миллионов фотографий и 7 миллионов видео были удалены благодаря использованию новых моделей ML. Однако в это число также входит контент, который был признан низкокачественным или размытым в дополнение к тем, которые были приписаны мошенникам.

Google также заявил, что делится соответствующими данными с Федеральной торговой комиссией (FTC) и другими государственными учреждениями за пределами США, чтобы помочь искоренить широко распространенную практику фальшивых отзывов.

Машинные алгоритмы помогают Google обрабатывать петабайты входящих и исходящих данных через множество различных сервисов, но они не всегда совершенны, о чем свидетельствуют последние изменения в политике Play Store.

Компания также наращивает свои усилия в области генеративного ИИ, о чем свидетельствуют недавние “детские шаги” Bard, чтобы конкурировать со знаменитым ChatGPT от OpenAI.

Недавно Google обвинили в использовании данных ChatGPT для обучения собственного чатбота, что компания опровергла.

Об авторе: MiMaster

Привет, меня зовут Тимур. Я с детства увлекался компьютерами и IT-Индустрией, мне это нравится, это моя страсть. Последние несколько лет глубоко увлёкся компанией Xiaomi: идеологией, техникой и уникальным подходом к взрывному росту бизнеса. Владею многими гаджетами Xiaomi и делюсь опытом их использования, но главное - решением проблем и казусов, возникающих при неожиданных обстоятельствах, на страницах сайта mi-check.ru

« Предыдущая запись

Команда Google Assistant переориентирует свои усилия на Bard

Следующая запись »

Google Drive получил странное ограничение на количество хранимых файлов, о котором никто не знал