Сгенерированные нейросетью изображения часто выглядят как настоящие. Чтобы распознать подделку, американские учёные создали новый тип ИИ, способный отличить обработанное фото или видео от оригинала. Эффективность инструмента, по заявлению его разработчиков, составляет внушительные 94%.

Как известно, дипфейки создаются путём наложения лица одного человека на тело другого, а мимика обрабатывается с помощью нейросети таким образом, чтобы она соответствовала исходному видео или снимку. Технология очень быстро совершенствуется, создавая больше возможностей для злоумышленников использовать её в своих целях.

Система, разработанная учёными из Университета штата Нью-Йорк в Буффало, выявляет дипфейки, анализируя роговицы глаз человека, которые способны отображать узоры созданные светом. Так, на снимке отражение в обоих глазах будет идентичным, потому что они видят одно и то же, а синтезированные изображения не могут точно передать это сходство.

Как правило, «нарисованные» глаза отражают разные геометрические формы или их несовпадающие положения. Такого рода несоответствия и обнаруживает искусственный интеллект. Затем генерируется оценка сходства — чем меньше балл, тем больше вероятность, что исследуемое изображение — дипфейк.

К недостаткам инструмента можно отнести то, что при должном старании указанные несоответствия нетрудно исправить с помощью постобработки, а также неработоспособность метода для изображений, где виден только один глаз или лицо не попадает в кадр.

Источник: 4pda.ru