Мошенники научились использовать чат-боты для обмана россиян: вот как это работает
![Мошенники научились использовать чат-боты для обмана россиян: вот как это работает Мошенники научились использовать чат-боты для обмана россиян: вот как это работает](https://www.mentoday.ru/upload/img_cache/3ed/3ed91cd8e3e3074565475b0dc0a6f613_ce_1920x1280x0x128_cropped_510x340.webp)
Злоумышленники в России активно используют чат-боты для совершения преступлений. При этом, по словам экспертов, речь идет как о мошенниках, так и прочих нарушителях закона.
На то, что нейросети нередко используют в своей деятельности криминальные элементы, недавно обратила внимание израильская компания Adversa AI. Ее эксперты провели атаки на несколько чат-ботов, заставив их обойти ограничения, наложенные разработчиками. Выяснилось, что как минимум один из исследуемых ботов выдавал опасные советы — например, о том, как изготовить яд или подобраться к потенциальной жертве для совершения преступлений на сексуальной почве.
![](https://www.mentoday.ru/upload/img_cache/709/709ffb118b9ad5c1fa266fdca7a00f56_cropped_510x287.webp)
В интервью газете «Известия» ведущий эксперт отдела разработки и тестирования компании «Код безопасности» Александр Самсонов рассказал, что к помощи ИИ преступники прибегают и в киберпространстве. Так, например, они используют чат-боты для разработки вредоносных кодов и написания фишинговых сообщений. Эти инструменты, отмечает специалист, помогают хакерам экономить время и наращивать количество кибератак.
Глава группы аналитиков по информационной безопасности Лиги цифровой экономики Виталий Фомин приводит и другой пример. Так, в прошлом году была выявлена схема, позволявшая мошенникам рассылать QR-коды таким образом, что они попадали на столы учреждений, ответственных за социальные выплаты. Коды вели на чат-бот, который требовал от пользователя ввести банковские данные — в результате жертвы оставались не только без социальных выплат, но и без собственных накоплений.
Нашли распространение чат-боты и у скамеров, которые используют ИИ для создания грамотных текстов, которые вызывают доверие у пользователей — это оказывается эффективным при наличии языкового барьера между преступником и жертвой.
![](https://www.mentoday.ru/upload/img_cache/2b2/2b2fec31392bd53b86acce720c022455_cropped_510x287.webp)
При этом разработчики ИИ-моделей стараются совершенствовать свои продукты, чтобы делать их менее уязвимыми для хакеров — например, они применяют специальные техники дообучения нейросетей под общим названием Alignment with human values (AWHV). Однако преступники регулярно анализируют возможности использования ботов и постоянно находят новые способы обойти ограничения — новыми методиками они делятся на форумах в даркнете.
Впрочем, отмечают эксперты, у использования чат-ботов есть и обратная сторона. Они могут применяться и в деятельности правоохранительных органов — например, упрощая стражам порядка поиск информации по открытым источникам. Кроме того, при наличии достаточного юридического обоснования сотрудники органов могут получать доступ к истории запросов пользователей в диалогах с ИИ, а затем выявлять и упреждать потенциальные преступления.