МВД: ChatGPT может перенаправлять пользователей на мошеннические ресурсы

Алгоритмы нейросетей, в том числе чат-бота ChatGPT, перенаправляли пользователей на мошеннические ресурсы, предназначенные для хищения денежный средств и личных данных. Об этом сообщает Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД со ссылкой на исследование сервиса проверки на мошенничество Ask Silver.

В сообщении говорится, что иногда алгоритмы искусственного интеллекта могут выдавать устаревшие и неактуальные данные. В составленных нейросетями рекомендациях высвечивались сайты-двойники по продаже вещей и мебели. Ресурсы копировали фирменную символику и описания товаров брендов, прекративших существование. В некоторых случаях покупателям предлагали скидки до 80%.

«По версии специалистов, злоумышленники могли использовать метод «отравления данных». Они намеренно распространяли в сети ложную информацию с фальшивыми отзывами, автоматически генерируемые сообщения для форумов и поддельные сведения для индексации. Цель таких действий — исказить обработку и сортировку информации алгоритмами искусственного интеллекта», — пишет МВД.

Для обеспечения безопасности киберполиция советует проводить перекрестную оценку ресурсов, а именно сравнивать полученную информацию на других поисковых платформах и искать первоисточник.

В марте The Guardian сообщила, что Google отключила функцию «Что советуют люди» с рекомендациями по здоровью от поискового ИИ-сервиса компании. Функция позволяет суммировать информацию с интернет-форумов и соцсетей, из-за чего пользователи часто получали неточные или потенциально опасные для здоровья советы.

Оставайтесь на связи с EXPRESS LIVE в «Максе»