Нейросети самых разных уровней стали частью нашей жизни. Пока одни безобидно показывают образы городов в виде людей или меняют пользователям лица, другие «играют» с законом. Один из таких ИИ под названием ElevenLabs смог обойти банковскую защиту с помощью имитации голоса. Пользователь Twitter Джозеф Кокс опубликовал ролик, в котором продемонстрировал работоспособность нейросети на примере банка Lloyds Bank.

Джозеф выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в банковскую учетную запись. Он смог обмануть систему с помощью бесплатной версии решения от ElevenLabs для генерации синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.

В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы — назвать свою дату рождения и прочитать «мой голос — мой пароль».

Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос — мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь своего аккаунта.

«Я не мог в это поверить — это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счет. После этого у меня был доступ к информации об учетной записи, включая баланс и список последних транзакций и переводов».

Представитель Lloyds Bank заявил, что опция Voice ID обеспечивает более высокий уровень защиты, чем традиционные методы аутентификации. По мнению банка, синтетические голоса не так привлекательны для мошенников, как другие методы для компрометации данных клиентов.

Эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, например, многофакторная аутентификация. Они опасаются, что подделка голосов в этом году будет одним из основных способов атак на учетные записи пользователей в банках.

Аналогичную голосовую идентификацию предлагают банки в США, например, TD Bank (опция VoicePrint), банк Chase (Voice ID) и Wells Fargo (функция Voice Verification), которые, если верить описанию, «эффективно защищают личность клиента».

Еще по теме:

Нейросеть поменяла цвет кожи персонажей «Черной Пантеры»: в сети разгорелся скандал

Как защитить банковские приложения от взлома: эксперт напомнил о важной функции смартфона