Можно ли обмануть систему распознавания лиц?
Израильским исследователям из Школы компьютерных наук имени Блаватника и Школы электротехники в Тель-Авиве удалось взломать три популярные системы распознавания лиц: aceNet, Dlib и SphereFace. Ученые использовали лица несуществующих людей, чтобы обмануть систему.
Исследователи с помощью нейросети StyleGAN от Nvidia сгенерировали множество несуществующих в реальности лиц, а затем с помощью другой нейросети (она проверяла, как часто системы срабатывали на лица) нашли самые «успешные» варианты.
Удалось установить, что лучше всего системы обманывают изображения пожилых мужчин без растительности на лице. Чтобы успешно проходить идентификацию в 40-60 процентах случаев, достаточно набора из девяти определенных несуществующих лиц — одно из них точно примут за реальное.
Уточняется, что есть и более сложные системы (они требуют повернуть голову в разные стороны, закрыть и открыть глаза и так далее), но специалисты считают, что и их можно обмануть с помощью дипфейков, если к сгенерированным лицам добавить реалистичную анимацию.