В Израиле нашли простой способ обмана систем распознавания лиц
Израильские исследователи из Школы компьютерных наук имени Блаватника и Школы электротехники в Тель-Авиве смогли взломать три популярные системы идентификации людей по лицу — FaceNet, Dlib и SphereFace. Выяснилось, что их можно обмануть, задействуя лица несуществующих людей, передает TJournal.
Ученые с помощью нейросети StyleGAN от Nvidia сгенерировали множество несуществующих в реальности лиц, а затем с помощью другой нейросети (она проверяла, как часто системы срабатывали на лица) нашли самые «успешные» варианты.
Удалось установить, что лучше всего системы обманывают изображения пожилых мужчин без растительности на лице. Чтобы успешно проходить идентификацию в 40-60 процентах случаев, достаточно набора из девяти определенных несуществующих лиц — одно из них точно примут за реальное.
Уточняется, что есть и более сложные системы (они требуют повернуть голову в разные стороны, закрыть и открыть глаза и так далее), но специалисты считают, что и их можно обмануть с помощью дипфейков, если к сгенерированным лицам добавить реалистичную анимацию.