Как обнаружить фейковые изображения, созданные искусственным интеллектом

Дипфейки — это изображения или видео, отредактированные с помощью искусственного интеллекта, чтобы заставить зрителей поверить в то, чего нет в реальности. Дипфейки могут использоваться в различных целях, включая развлечения, мошенничество и пропаганду.

Создание поддельных изображений и видео с использованием технологий искусственного интеллекта (ИИ) быстро становится одной из самых серьёзных проблем в интернете. Растёт число мошеннических изображений, видео и аудиоконтента из-за распространения и злоупотребления инструментами генеративного ИИ.

С появлением практически ежедневно создаваемых искусственным интеллектом фейковых видеороликов с изображениями всемирно известных людей, таких как певица Тейлор Свифт, бывший президент США Дональд Трамп, ... становится все труднее отличить, где правда, а где подделка.

Сегодня инновационные инструменты, использующие ИИ для генерации видео и изображений из текста, такие как DALL-E, Midjourney и Sora, делают создание дипфейков проще, чем когда-либо: пользователям нужно лишь ввести запрос, и система автоматически их сгенерирует.

Эти поддельные изображения могут показаться безобидными. Но их можно использовать для мошенничества, кражи личных данных, распространения пропаганды и манипулирования выборами.

На заре развития технологии дипфейка она была ограничена и часто оставляла очевидные следы подделки. Специалисты по проверке фактов указывали на изображения с очевидными изъянами, например, на руке с шестью пальцами или на очках с линзами разной формы.

Но по мере совершенствования ИИ обнаружение становится всё сложнее. Некоторые распространённые советы, например, поиск неестественного моргания глаз в видео с дипфейками, больше неэффективны, считает Генри Айдер, основатель Latent Space Advisory и ведущий эксперт по генеративному ИИ.

Однако, по словам Генри Айдера, все же существуют некоторые признаки, позволяющие распознать поддельные изображения, например, портрет человека с электронным блеском — «эффектом эстетического сглаживания», который заставляет кожу «выглядеть удивительно блестящей».

Также проверьте равномерность теней и освещения. Зачастую объект на фотографии чётко фокусируется и выглядит реалистично, но элементы на заднем плане могут быть нереалистичными или глянцевыми.

Посмотрите на лицо

Подмена лиц — один из самых популярных методов дипфейка. Эксперты рекомендуют внимательно присмотреться к контурам лица. Соответствует ли цвет кожи цвету головы и тела? Контуры лица чёткие или размытые?

Если вы подозреваете, что видео с говорящим человеком было смонтировано, обратите внимание на его рот. Полностью ли движения губ соответствуют звуку?

Айдер рекомендует осмотреть зубы. Чёткие ли у них зубы или они размыты и не соответствуют их реальному виду?

Американская компания Norton, занимающаяся кибербезопасностью, заявила, что алгоритм, возможно, недостаточно сложен для создания отдельных зубов, поэтому отсутствие контуров каждого зуба может быть признаком распознавания фейкового изображения.

Рассмотрите этот вопрос в более широком контексте.

Иногда контекст имеет значение. Подумайте немного, имеет ли то, что вы видите, смысл.

Если вы видите, как публичная личность делает что-то, что кажется «показным, нереалистичным или нехарактерным», это может быть дипфейком, полагает американская некоммерческая организация Poynter, занимающаяся журналистикой и медиаобразованием.

Например, действительно ли Папа римский носит роскошную стеганую куртку, как на знаменитом фейковом фото? Если да, то публиковали ли ведущие источники дополнительные фотографии или видео с ней?

Использование ИИ для обнаружения дипфейков

Другой подход — использовать ИИ против самого себя. Microsoft разработала инструмент аутентификации, который может анализировать фотографию или видео, чтобы определить, были ли они подделаны, а FakeCatcher от производителя полупроводников Intel использует алгоритм для анализа пикселей изображения, чтобы определить, является ли оно настоящим или поддельным.

Существуют также онлайн-инструменты, обещающие выявить поддельный контент, если вы загрузите файл или вставите ссылку на подозрительный документ. Но некоторые из них, например, аутентификатор Microsoft, доступны только избранным партнёрам, а не широкой публике. Это связано с тем, что исследователи не хотят раскрывать информацию злоумышленникам и давать им преимущество в гонке вооружений для создания дипфейков.

По словам Айдера, открытый доступ к средствам обнаружения также может создать у людей впечатление, что это «божественные технологии», способные заменить нам критическое мышление, хотя вместо этого нам нужно осознавать их ограничения.

Эксперты утверждают, что возлагать бремя ответственности за цифровые детективы на обычных пользователей может быть даже опасно, поскольку это может привести к слепой вере в них, когда даже экспертам становится все сложнее обнаруживать дипфейки.

Обнаружение дипфейков становится всё более сложной задачей, и ни один метод не обладает стопроцентной эффективностью. Однако, принимая меры предосторожности и повышая осведомлённость, мы можем снизить риск быть обманутыми дипфейками.