Google создала «чудовище»: новая функция в смартфонах Pixel создает фотореалистичные фейки
Google последние несколько лет только и говорит об искусственном интеллекте. В презентациях компании последних лет так много слов об ИИ, что от этого начинает тошнить. Но Google продолжает верить в развитие нейросетей, поэтому и уделяет этому настолько много внимания.
И результаты работы в сфере ИИ от Google действительно видны невооруженным взглядом. Пусть большая часть фишек доступна на ограниченном числе устройств (Pixel 9), функции не работают в России, а компания установила мощный фильтр цензуры (чтобы пользователи не делали откровенный контент) то, что есть, уже впечатляет.
Впрочем, иногда нейросеть выходит из-под контроля. Это выяснили журналисты The Verge, которые тестировали функцию Magic Editor, доступную на Pixel 9. Функция позволяет редактировать фото с помощью ИИ. В частности, добавлять на снимки дополнительные объекты. Причем делать это настолько хорошо, что отличить фейк от реального снимка практически невозможно: вотермарок нет, метаданные легко изменить, а эксперты не способны зафиксировать ретушь классическими способами.
И это все не было бы проблемой, если цензурный фильтр от Google работал корректно, а не просто добавлял чернокожих людей на любые картинки по поводу и без. Инструмент Reimagine, добавленный в редактор и пока что доступный только в Pixel 9, позволяет подделывать фотографии секунд за 10. Дымящаяся бомба на станции метро, крушение вертолета в ручье, последствия ДТП — всё это сделали журналисты с помощью одного инструмента в течение нескольких минут.
Фактически, с помощью этой функции можно превратить любой безобидный снимок в инструмент пропаганды или шантажа. Мошенник может взять ваше фото и с помощью этой функции добавить чего-нибудь такого, что вас дискредитирует в глазах близких или подставит под статью. А после заставит платить.
Еще хуже придется журналистам. Многие издания платят за горячие новости от очевидцев. И часто из-за спешки не могут ждать подтверждений из других источников. Особенно, когда получают фотоматериалы высокого качества. И теперь эти «фотоматериалы» за 10 секунд способен сделать любой человек с помощью Pixel 9. И это совсем некруто.
И Google пока никак не комментирует свою осечку. Компания только заявила, что редактировать фотографии с этой функцией можно только в соответствии с пользовательским соглашением, и создание фейков для дезинформации оно запрещает. Но вряд ли кто-то будет смотреть на соглашение пользователя перед тем, как публиковать ложь.
Поэтому Google нужно срочно обновлять алгоритм и вшивать в отредактированные фотоснимки символы, которые позволят точно определять вмешательство ИИ. Иначе нас захлестнет океан фейков. Причем в ближайшие дни.