Нейросети начали помогать мошенникам: как злоумышленники обманывают россиян с помощью искусственного интеллекта?
Нейросети активно внедряются в жизнь человек, однако используются они не всегда в благих целях. Преподаватель Moscow Digital School, зампред Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России Екатерина Ипполитова в беседе с «Известиями» рассказала, как мошенники используют искусственный интеллект при обмане граждан.
Как мошенники используют нейросети?
По словам специалиста, злоумышленники создают фишинговые сайты, маскируя их под сервисы, которые позволяют получить доступ к чат-боту на базе искусственного интеллекта (ИИ) ChatGPT. Причем с каждым месяцем такая схема становится все более популярной. Так, в 2022 году количество таких ресурсов увеличилось на 15 процентов по сравнению с 2021-м.
«Использование искусственного интеллекта мошенниками в целях облегчения создания фишингового ресурса с большой долей вероятности приведет к увеличению количества таких ресурсов с появлением ChatGPT. Нельзя однозначно утверждать, что преступления, связанные с мошенническим доступом к ChatGPT, станут массовыми, поскольку спрос на такие услуги вызван кратковременной популярностью данного сервиса. При этом нейросети уже используются преступниками, поскольку они существенно облегчают совершение преступления и повышают охват преступной деятельности», — объяснила она в разговоре с журналистами.
В чем опасность такого мошенничества?
Она добавила, что использование нейросетей в среде аферистов заметно повышает риск распространения «преступлений как услуг». Другими словами, злоумышленники могут продавать вредоносные программы, созданные с помощью искусственного интеллекта.
При этом расследовать такие преступления довольно сложно, так как нейросети позволяют почти не оставлять за собой следов.
Как с этим борются в мире?
При этом специалисты уверены, что способ бороться с таким видом преступности все же есть. Так, в Китае компании, которые разрабатывают такое программное обеспечение, должны маркировать созданный нейросетью контент специальным водяным знаком. Такой значок будет уведомлять о том, что сайт был создан с помощью нейросети.