Мошенники научились использовать чат-боты для обмана россиян: вот как это работает
Злоумышленники в России активно используют чат-боты для совершения преступлений. При этом, по словам экспертов, речь идет как о мошенниках, так и прочих нарушителях закона.
На то, что нейросети нередко используют в своей деятельности криминальные элементы, недавно обратила внимание израильская компания Adversa AI. Ее эксперты провели атаки на несколько чат-ботов, заставив их обойти ограничения, наложенные разработчиками. Выяснилось, что как минимум один из исследуемых ботов выдавал опасные советы — например, о том, как изготовить яд или подобраться к потенциальной жертве для совершения преступлений на сексуальной почве.
В интервью газете «Известия» ведущий эксперт отдела разработки и тестирования компании «Код безопасности» Александр Самсонов рассказал, что к помощи ИИ преступники прибегают и в киберпространстве. Так, например, они используют чат-боты для разработки вредоносных кодов и написания фишинговых сообщений. Эти инструменты, отмечает специалист, помогают хакерам экономить время и наращивать количество кибератак.
Глава группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин приводит и другой пример. Так, в прошлом году была выявлена схема, позволявшая мошенникам рассылать QR-коды таким образом, что они попадали на столы учреждений, ответственных за социальные выплаты. Коды вели на чат-бот, который требовал от пользователя ввести банковские данные — в результате жертвы оставались не только без социальных выплат, но и без собственных накоплений.
Нашли распространение чат-боты и у скамеров, которые используют ИИ для создания грамотных текстов, которые вызывают доверие у пользователей — это оказывается эффективным при наличии языкового барьера между преступником и жертвой.
При этом разработчики ИИ-моделей стараются совершенствовать свои продукты, чтобы делать их менее уязвимыми для хакеров — например, они применяют специальные техники дообучения нейросетей под общим названием Alignment with human values (AWHV). Однако преступники регулярно анализируют возможности использования ботов и постоянно находят новые способы обойти ограничения — новыми методиками они делятся на форумах в даркнете.
Впрочем, отмечают эксперты, у использования чат-ботов есть и обратная сторона. Они могут применяться и в деятельности правоохранительных органов — например, упрощая стражам порядка поиск информации по открытым источникам. Кроме того, при наличии достаточного юридического обоснования сотрудники органов могут получать доступ к истории запросов пользователей в диалогах с ИИ, а затем выявлять и упреждать потенциальные преступления.