5 советов, которые помогут обнаружить фейковый контент, созданный ИИ.

В условиях стремительного развития искусственного интеллекта различение правды и лжи в интернете становится все сложнее. Бурно распространяются не только статичные изображения, но и видеоролики, созданные с помощью ИИ, благодаря таким инструментам, как Sora от OpenAI и Veo от Google. Это делает распознавание правды и вымысла серьезной проблемой.

В настоящее время программное обеспечение для обнаружения поддельных видеороликов, созданных с помощью ИИ, ограничено, за исключением инструментов, ориентированных на обнаружение дипфейков. Поэтому большинству из нас приходится полагаться на свою наблюдательность и личную интуицию. Ниже приведены важные признаки, которые помогут людям распознать поддельный видеоролик, созданный с помощью ИИ.

1. Поддельные видеоролики, созданные с помощью ИИ, часто не подчиняются законам физики.

Один из простых способов распознать поддельное видео, созданное с помощью ИИ, — проверить, соответствует ли оно законам физики. В реальном мире стекло не плавает, жидкости не могут проходить сквозь твердые тела, но с помощью Sora от OpenAI эти нелогичные вещи могут происходить.

Сама компания OpenAI признает, что Sora неточно смоделировала фундаментальные взаимодействия, такие как разбивание стекла. При просмотре видео внимательно наблюдайте как за основным действием, так и за деталями на заднем плане, чтобы обнаружить аномалии.

В то же время, прислушивайтесь к своей интуиции. Если что-то кажется «не так», даже если это сложно выразить словами, это может быть признаком того, что видео было создано искусственным интеллектом.

2. Внимательно наблюдайте за окружающим миром.

Реакция окружающего мира также является важным показателем эффективности видео, созданного с помощью ИИ. В реальной жизни, если вы откусите яблоко, оно должно исчезнуть, но в мире Соры это не всегда так.

OpenAI признает, что такие взаимодействия, как еда, иногда не приводят к правильным изменениям состояния объекта. Поэтому при просмотре видео необходимо не только наблюдать за действием, но и обращать внимание на сопутствующую реакцию, то есть на физические последствия, изменения в окружающей среде или самом объекте.

Например, человек идет по песку, но не оставляет новых следов, или на пол проливается вода, но поверхность остается сухой и без пятен.

3. Проверьте, нет ли в видео чего-нибудь необычного.

Бывало ли у вас такое, что после просмотра видео у вас возникало ощущение, что «что-то не так», но вы не могли сразу определить, что именно? Это распространенное явление при просмотре видео, созданных искусственным интеллектом.

Аномалии могут быть очевидными, но иногда это всего лишь мимолетная, едва заметная деталь, достаточная, чтобы заставить вас остановиться и спросить себя: «Какой момент вызвал у меня чувство беспокойства?» Именно эти мелкие детали часто выявляют несоответствия в логике виртуального мира, созданного искусственным интеллектом.

Например, в видеоролике мы видим, как рука человека сосредоточенно рисует ветку вишни. Кисть непрерывно движется, картина постепенно приобретает форму, но, как ни странно, цвета мазков внезапно меняются, хотя кисть ни разу не была снова обмакнута в палитру. Это яркий пример «тонких ошибок», которые зрители должны быть внимательными, чтобы заметить.

4. Попробуйте "обратный" процесс, воссоздав видео.

Еще один подход, помогающий пользователям оценить подлинность видеороликов, созданных с помощью ИИ, заключается в использовании метода «обратного осмоса» путем воссоздания видео.

Энтузиасты Midjourney, инструмента для создания изображений с помощью преобразования текста в речь, экспериментировали с методом «обратной синхронизации». Они внимательно изучали видеоролики, созданные Sora, затем переписывали описания, которые максимально напоминали оригинальные кадры, и загружали их в Midjourney для создания статичных изображений.

Результаты показывают, что во многих случаях видеоролики Соры почти полностью представляют собой «движущиеся изображения из Midjourney». Это демонстрирует сильную корреляцию между моделями создания изображений и видео и поднимает вопросы об истинных творческих способностях Соры.

Если вы хотите задействовать больше органов чувств при анализе видео, вы можете попробовать сделать нечто подобное. Придумайте описание, которое, по вашему мнению, может соответствовать видеоряду, а затем введите его в инструмент преобразования текста в изображение, чтобы проверить степень сходства.

Далее, выполните поиск в Google, чтобы определить, взяты ли эти кадры из каких-либо общедоступных источников. Этот метод не идеален, но он является полезным «компасом», когда вам нужно определить, смотрите ли вы подлинное видео или просто продукт, созданный с помощью искусственного интеллекта.

5. Всегда будьте бдительны и следите за развитием современных технологий.

Технология искусственного интеллекта для создания видеороликов из текста все еще находится на начальной стадии развития, но ее развитие невероятно быстрое. За короткое время модели ИИ смогли создавать очень детализированные видеоролики, которые затрудняют зрителям различение подлинного и поддельного контента.

Это означает, что риск быть обманутым контентом, сгенерированным искусственным интеллектом, возрастает. Лучший способ избежать участи жертвы — научиться «развиваться» вместе с технологиями, что подразумевает постоянное обновление знаний, отслеживание новых инструментов и совершенствование навыков анализа изображений и аудио.