Google расширяет использование ИИ для обнаружения мошенничества на большем количестве устройств Pixel

Google объявил об расширении внедрения новых функций обнаружения мошенничества на Android, основанных на ИИ, чтобы защитить пользователей от все более изощренных мошеннических схем с использованием звонков и текстовых сообщений.

По словам компании, данные функции появляются в ответ на мошеннические кампании с использованием ИИ, которые, согласно статистике Global Anti-Scam Alliance, смогли обмануть жертв на общую сумму свыше 1 триллиона долларов.

В заявлении Google отмечается:

Сегодня мы запускаем две новые передовые функции обнаружения мошенничества на основе ИИ для звонков и текстовых сообщений, созданные для защиты пользователей от все более сложных и опасных мошеннических схем.

Эти функции нацелены на мошенничества, основанные на ведении диалога, которые на первый взгляд могут казаться безобидными, но затем перерастают в опасные ситуации.

Google предупреждает, что традиционные меры защиты от спама, направленные на блокировку подобных попыток, оказываются неэффективными против сложных мошеннических схем, возникающих уже после начала общения жертвы с мошенниками.

Чтобы выявлять и пресекать такие мошенничества, Google объединился с банками и другими ключевыми организациями для лучшего понимания схем, с которыми сталкиваются потребители.

Google сообщает:

Для повышения наших возможностей обнаружения мы сотрудничали с финансовыми учреждениями по всему миру, чтобы лучше понять последние, наиболее продвинутые и распространенные мошеннические схемы, с которыми сталкиваются их клиенты. Например, пользователи все чаще сталкиваются с мошенническими сообщениями, которые начинаются безобидно, но постепенно вынуждают жертв раскрывать конфиденциальные данные, передавать средства или переходить в другие мессенджеры. Кроме того, телефонные мошенники все чаще используют методы подмены номера, чтобы скрыть свои реальные номера и притворяться доверенными компаниями.

Традиционные меры защиты от спама ориентированы на защиту пользователей до начала разговора и оказываются менее эффективными против новых тактик мошенников, которые становятся опасными в процессе общения и используют методы социальной инженерии. Чтобы лучше защитить пользователей, мы инвестировали в новые интеллектуальные модели ИИ, способные обнаруживать подозрительные паттерны и выдавать предупреждения в реальном времени в ходе разговора, при этом уделяя особое внимание защите конфиденциальности.

Новые функции защиты от мошенничества

Первая группа функций безопасности представляет собой улучшения существующих механизмов защиты от спама за счет ИИ в приложении Google Сообщения (Google Messages), которое является стандартным для SMS и RCS на устройствах Android.

Google заявляет, что функция «Обнаружение мошенничества» для сообщений теперь будет распознавать более широкий спектр мошеннических схем, включая заманивающие предложения о работе и доставке товаров, предупреждая пользователей и предоставляя возможность сообщить о мошеннике и заблокировать его.

Система защиты включена по умолчанию и активируется только при получении сообщений от неизвестных отправителей, номера которых отсутствуют в списке контактов пользователя.

Первоначальное развертывание функции охватит пользователей Android в США, Великобритании и Канаде.

Аналогичная система будет внедрена для звонков, при этом инструмент ИИ от Google Gemini Nano будет анализировать разговоры в реальном времени для выявления распространенных мошеннических схем, например, обнаружения признаков просьб о платежах с использованием кодов подарочных карт. Функция оповестит пользователя посредством звуковых и тактильных уведомлений при обнаружении мошенничества.

Эта функция впервые была анонсирована в ноябре 2024 года и тестировалась на небольшом количестве устройств Pixel 6+, но теперь внедряется для всех англоязычных пользователей Pixel 9 в США.

Пользователи Pixel 9 получат функцию через Gemini Nano, тогда как устройства серий Pixel 6–8, участвующие в бета-тестировании, будут работать на менее мощных моделях ИИ от Google.

Как функция обнаружения мошенничества для сообщений, так и голосовые средства безопасности анализируют данные разговоров на устройстве, не передавая никакую конфиденциальную информацию в Google, что гарантирует сохранность личных данных пользователей.

Также в начале разговора будет воспроизводиться характерный звуковой сигнал, слышимый обеими сторонами, чтобы уведомить участников о том, что проводится анализ с использованием ИИ.

Тем не менее, Google решил оставить функцию обнаружения мошенничества при звонках отключенной по умолчанию, чтобы снизить опасения по поводу конфиденциальности.

Пользователи могут включить ее, открыв приложение «Телефон», нажав на меню с тремя точками в верхнем правом углу, выбрав Настройки > Обнаружение мошенничества (если опция доступна) и переведя функцию в положение Вкл. При активной функции обнаружения мошенничества пользователь также сможет отключить ее во время отдельного звонка.