Как обнаружить изображения, созданные ИИ

Вы больше не можете верить своим глазам, даже когда кажется очевидным, что Папа Римский щеголяю в новом пуховике. Изображения, созданные искусственным интеллектом, быстро превратились из смехотворно причудливых в пугающе правдоподобные, и невозможность отличить подлинно созданные изображения от изображений, созданных искусственным интеллектом, имеет серьезные последствия.

Инструменты искусственного интеллекта для создания изображений — тех изображений, которые вы можете вызвать в воображении, но не обязательно воплотить в жизнь с помощью традиционных средств, таких как фотография и живопись, — легко доступны и либо бесплатны, либо недороги. Dall-E 2 от OpenAI, Стабильная диффузия, Середина путии Мелок создавайте заслуживающие доверия изображения, которые могут обмануть на первый взгляд, а, скорее всего, даже на второй и третий взгляд.ﾠ

Проверьте свои навыки обнаружения ИИ с помощью этого теста

Эти генераторы текста в изображение работают за считанные секунды, но ущерб, который они могут нанести, долгосрочен: от политической пропаганды до дипфейкового порно. ИИ становится все лучше и лучше в своей незаметности. Промышленность работает над водяные знаки и другие решения для идентификации изображений, созданных ИИ, хотя они не содержат ничего, что было бы видно человеческому глазу. Но есть шаги, которые вы можете предпринять, чтобы оценить изображения и повысить вероятность того, что робот вас не обманет.

Изложенные здесь методы не являются надежными, но они обострят ваши инстинкты обнаружения работы ИИ.

Перевернуть и перевернуть

Если рассматриваемое изображение заслуживает освещения в печати, выполните обратный поиск изображения, чтобы попытаться определить его источник. Даже – сделай это особенно— если фотография распространяется в социальных сетях, это не значит, что она законна. Если вы не можете найти его на уважаемом новостном сайте, но при этом оно кажется новаторским, то велика вероятность, что оно вымышленное.

Возьмем, к примеру, Великое землетрясение в Каскадии в 2001 году: его никогда не было, но однажды изображения воображаемого события ускользнули из субреддита Midjourney, событие стало реальным для тех, кто никогда не расследовал его дальше. Опустошение Тихоокеанского Северо-Запада, изображенное в сериале — разрушенные дороги, спасатели, паникующие люди в своих телефонах — формирует связное повествование, которое легко оставить без внимания.

Обратный поиск изображений раскрывает правду, но даже тогда вам нужно копать глубже. Одна «фотография» с подписью «Любительское видео запечатлело последствия цунами в Кадьяке, штат Арканзас», которую мы пропустили через поиск изображений Google, возвращает историю из NBC News с фрагментом знакомого изображения и заголовком «Наводнения опустошают Западную Канаду» в результатах. Быстрый взгляд, кажется, подтверждает, что событие реальное, но один щелчок показывает, что Midjourney «позаимствовала» работу фотожурналиста, чтобы создать нечто подобное.

Охота за артефактами

Поскольку искусственный интеллект собирает свои творения из оригинальных работ других, он может вблизи выявить некоторые несоответствия. Когда вы проверяете изображение на наличие признаков ИИ, максимально увеличьте масштаб каждой его части. Так будет легче увидеть случайные пиксели, странные контуры и неуместные формы.

Рассматривая весь этот образ музея, наполненного людьми, который мы создали с помощью DALL-E 2, вы видите насыщенный культурный день выходного дня для толпы.

(Фото: PCMag / DALL-E 2)

Но подойдите ближе к этой толпе, и вы увидите, что каждый отдельный человек представляет собой смесь частей людей, на которых обучался ИИ.

(Фото: PCMag / DALL-E 2)

Гладкий оператор

ИИ обычно плохо справляется с порами и другими недостатками. Если вещи кажутся слишком идеальными, чтобы быть реальными на изображении, есть вероятность, что они нереальны. В отфильтрованном онлайн-мире это трудно различить, но тем не менее это созданное Stable Diffusion селфи влиятельного лица моды выдает себя с кожей, которая посрамляет Facetune.

(Фото: PCMag / Стабильная диффузия)

Даже Хлоя Кардашьян, которую, возможно, больше всех критикуют за то, что она выкручивает настройки вправо до упора, в Инстаграме придает гораздо больше человеческой реальности. Хотя ее тщательно очерченное и выделенное лицо почти идеально для искусственного интеллекта, в нем есть свет и объем, а кожа на ее шее и теле демонстрирует некоторую текстуру и вариации цвета, в отличие от искусственного селфи выше.

Матч-игра

Приближение к изображению также может выявить несоответствия: скажем, серьги не подходят друг другу или количество конечностей превышает обычное. Программист Майлз Циммерман стал вирусным благодаря фотографиям домашней вечеринки, которую он создал с помощью Midjourney. У них есть жуткое, злобное качество, больше напоминающее Картины Джона Каррина чем в реальной жизни. Но еще более тревожно то, что у женщин на изображениях слишком много зубов и пальцев.ﾠ

Твитнуть

Одно предостережение: недавно Midjourney стать значительно лучше при рендеринге человеческих цифр, поэтому для того, чтобы разобраться в ИИ, может потребоваться больше, чем просто считать до десяти каждый раз, когда вы видите пару рук. Обратите внимание на детали, которые вы обычно упускаете из виду, например освещение и отражения.ﾠ

Исходная информация

Часто ИИ прилагает усилия для создания переднего плана изображения, оставляя фон размытым или нечетким. Просканируйте эту размытую область, чтобы увидеть, есть ли на ней какие-либо узнаваемые очертания знаков, которые, кажется, не содержат никакого текста, или топографические особенности, которые кажутся странными. ИИ — это наука, а не искусство, но его выявление — это наоборот.

(Фото: PCMag / DALL-E 2)

Мы создали изображение оживленной улицы выше с помощью DALL-E 2. На переднем плане вы можете увидеть одну важную подсказку, которая соответствует принципу сопоставления: слово «ТАКСИ», нарисованное на улице, имеет неравномерно расположенные буквы. На заднем плане тоже есть много подсказок. Все номерные знаки размыты, а фигура человека, идущего слева, неясна.

Если следовать постулату «Чтобы знать одного, нужен один», то инструменты для обнаружения ИИ, основанные на искусственном интеллекте, кажутся подходящим способом. И хотя их много, они часто не могут распознать себе подобных. Тем не менее, они могут дать вам что-то для продолжения.

ИИ или нет

Вы можете перетащить, загрузить или поместить URL-адрес подозрительного изображения в ИИ или нет получить его вердикт. Мы загрузили «фото» паломино в поле, созданное с помощью Stable Diffusion, и получили однозначный ответ: AI.

(Источник: PCMag / AI или нет)

Обнаружение контента Hive с помощью искусственного интеллекта

Hive Moderation, компания, которая продает решения для модерации контента под управлением искусственного интеллекта, имеет ИИ-детектор в который вы можете загружать или перетаскивать изображения. Изображение паломино с вероятностью 93,8% было создано искусственным интеллектом.

(Источник: PCMag / Модерация Hive)

Детектор обнимающего лица AI

Детектор искусственного интеллекта обнимающего лица позволяет загружать или перетаскивать сомнительные изображения. Мы использовали одну и ту же фальшивую «фотографию», и решение было на 90% человеческим, на 10% искусственным.