Malwarebytes: Ответы нейросетей могут содержать вредоносные ссылки

В 2023 году ИИ-инструменты и нейросети испытывают настоящий расцвет. Ведущие технологические компании выпустили свои продукты в этой сфере. Пользователям Интернета уже доступны Bing Chat, YandexGPT, Claude AI, Google Bard, ChatGPT и многие другие.

Все эти текстовые инструменты работают одинаково. Они реагируют на ввод пользователя, возвращая то, что, по их мнению, является лучшим ответом на запрос. Эти ответы могут включать в себя различные элементы, в том числе ссылки.

Все ответы требуют дополнительной проверки, потому что нейросети иногда склонны к неверным ответам или «галлюцинациям». Это касается в том числе и ссылок. Есть опасения, что нейросети будут активно использоваться для рекламных целей.

На прошлой неделе компания Malwarebytes обнаружила, что Bing Chat от Microsoft может отображать рекламу рядом со ссылками. Когда пользователи отправляют запрос в Bing Chat, ИИ часто возвращает ссылки. Пользователи могут навести курсор на предложение, чтобы увидеть ссылку.

Для некоторых пользователей рядом с ссылками показывается реклама. По всей видимости, Microsoft проводит ограниченное тестирование этого функционала.

Реклама отображается над органическим результатом, аналогично тому, как реклама отображается в поисковых системах. Таким способом компании пытаются увеличить свои доходы от рекламы.

Рекламные метки заметить в Bing Chat не так просто. Крошечный ярлык «Ad» отображается в третьем ряду рекламного объявления мелким шрифтом. Неопытным пользователям Интернета сложно отличить рекламу от органического результата.

Многие пользователи могут нажать на рекламу вместо ссылки на официальный сайт и, как следствие, это может привести к распространению вредоносных или нежелательных программ.

В тестах эксперты Malwarebytes отправляли в Bing Chat запрос «download advanced ip scanner» и ожидали получить официальную домашнюю страницу сетевого сканера. Bing Chat вернул адрес, но разместил рекламу над органическим результатом, которая указывала на несвязанный веб-сайт.

При переходе по рекламной ссылке инженеры провели анализ и сделали интересные выводы. Основной целью связанного сайта была фильтрация трафика, чтобы отделить «реальных пользователей» от «ботов, песочниц или исследователей безопасности». Сайт делает это, проверяя IP-адреса, часовые пояса и ряд других параметров, включая использование виртуальной машины.

Пользователи перенаправляются на фальшивый сайт, на котором есть загрузка, предположительно устанавливающая сетевой сканер. Он содержит вредоносную полезную нагрузку, которая при выполнении будет взаимодействовать с внешним сервером.

Что это означает для пользователей Интернета?

Внедрение вредоносного ПО могло произойти в любом другом сервисе, который возвращает пользователям ссылки или рекламу. Большинство бесплатных ИИ-инструментов со временем начнут показывать рекламу, а это означает, что риск наткнуться на вредоносные ссылки только увеличится.

Киберпреступники могут создавать собственные учетные записи в Google, Bing и других рекламодателях. Некоторые злоумышленники пытаются завладеть рекламными аккаунтами легитимных компаний, чтобы продвигать вредоносную рекламу.

Пользователи Интернета должны понимать, что любой контент, возвращаемый ИИ-инструментами, не является более безопасным, чем тот, который возвращают поисковые системы или отдельные сайты. Важно проверить текст и ссылки, прежде чем использовать эту информацию.