Contents
Генеративные изображения еды, созданные искусственным интеллектом, всё чаще появляются в меню ресторанов и кафе, вызывая у посетителей ощущение тревоги из-за неестественно гладкой и симметричной картинки. Такие иллюстрации, от буррито до бутербродов, выглядят «слишком идеально», что заставляет людей сомневаться в собственном восприятии, хотя на самом деле они сталкиваются с эстетикой, обученной на ограниченных данных.
Иногда эти иллюстрации являются вопиюще фальшивыми, как буррито с сыром, настолько пузырчатым и плавным, что он больше похож на авангардное искусство, чем на обед. Чаще всего они настолько обычны, что вы замечаете, что что-то не так, когда вы смотрите на них более внимательно.
«Это почти как инопланетянин, пытающийся сделать пиццу, не понимая ее основных принципов», — сказал технический директор Reality Defender Алекс Лизл. (Reality Defender является частью растущей категории стартапов, продающих инструменты ИИ-обнаружения и проверки контента — бизнес, который существует отчасти из-за таких проблем, как этот.)
Бросьте камень в Нью-Йорке, и вы слегка отключитесь от размещения рекламы продуктов питания AI. pic.twitter.com/lLXVkFIFoG
Лизл говорит, что то, как эти модели построены, может помочь объяснить, почему иллюстрации, кажется, охватывают такую специфическую эстетику — ту, где каждая совка с мороженым идеально круглая, и где креветки, кажется, были генетически модифицированы, чтобы есть свои собственные хвосты, создавая новые «любовные пищевые ужасы».
Большие языковые модели (LLM) и модели диффузии — типы моделей ИИ, которые делают возможными, казалось бы, всезнающих чат-ботов и генераторов изображений, таких как ChatGPT и Midjourney, — обучаются на огромных объемах данных. Затем модели идентифицируют шаблоны в наборах данных, чтобы предсказать, что ищет пользователь, когда он спрашивает что-то вроде: «Сделай мне меню для ресторана гамбургеров».
«Многие из этих вещей выглядят как меню Чили с 2015 года, и для этого есть причина, — сказал Лисл. — Это был корпус работы, из которого [модели] извлекли свою функцию».
Новые учебные данные неоценимы для компаний, создающих модели искусственного интеллекта — Amazon даже обнаружила, что она получает редкие книги для сканирования и добавления к своим учебным данным, только для того, чтобы уничтожить эти книги после их загрузки. Неизбежно, что какой-то контент, созданный ИИ, просочится в эти непостижимо большие наборы данных. Но когда модели ИИ тренируются на слишком большой части своего собственного контента, генерируемого ИИ, они рискуют разрушить модель.
«Коллапс модели почти похож на коровье бешенство… когда вы кормите результаты от одной модели обратно в себя, в конечном итоге инбридинг становится слишком большим, и все это разрушается, — объясняет Лизл. — То, что мы видим здесь, — это конвергенция, которая не обязательно является коллапсом модели».
Конвергенция немного менее экстремальна, ухудшая качество результатов ИИ, не делая его полностью бесполезным.
Если кто-то попросит модель искусственного интеллекта создать меню для ресторана быстрого питания, модель, скорее всего, будет ссылаться на меню из Wendy’s, Burger King, McDonald’s или другой популярной сети. Эти меню уже имеют схожий стиль, что означает, что результаты, генерируемые ИИ, будут имитировать тот же стиль, только для дальнейшего его усиления, если меню, генерируемое ИИ, вернется в данные обучения.
Но меню и реклама продуктов всегда будут выглядеть лучше, чем на самом деле, как Биг Мак в рекламе McDonald’s, где каждый слой сэндвича устроен дизайнером реквизита, чтобы выглядеть максимально аппетитно. Этот эффект может стать еще более выраженным в выводах ИИ.
«Оптимизация наборов данных для удовольствия, или вы знаете, не является оскорбительной, и поэтому есть способ, который превращается в гомогенизацию, — сказал Ли Рейни, директор Центра воображения цифрового будущего в Университете Илона. — То, что ИИ, как известно, делает как на изображениях, так и на языке, — это сбривать края».
В более локализованном масштабе это сглаживание изображений, по-видимому, происходит, когда вы используете генератор изображений ИИ для создания меню и применения к нему правок. На X пользователь Labtec показал, что происходит, когда вы создаете меню в ChatGPT, а затем отредактируйте его 100 раз, чтобы увидеть, как еда продолжает выглядеть все меньше и меньше, чем должна. (Мы повторили эксперимент и нашли похожие результаты.)
«Конечный результат на самом деле делает меня неудобным», — написал Лабтек.
Я сделал меню ресторана в ChatGPT, а затем отредактировал его 100 раз, чтобы увидеть, как эти отвратительные меню заканчиваются так, как они есть. Конечный результат на самом деле делает меня неудобным pic.twitter.com/sDIUKlabdp
Рестораны, вероятно, становятся жертвами этой проблемы, пересматривая свои меню, созданные ИИ, чтобы снова и снова изменять мелкие детали, такие как цены или названия предметов. Кажется, что с каждым редактированием пищевые образы становятся немного более круглыми и гладкими.
«У людей почти необъяснимое чувство, когда они смотрят на что-то, что сгенерировано ИИ, по сравнению с тем, что было реальным в первую очередь, — сказал Рейни. — Есть просто чувствительность, которую людям иногда трудно сформулировать, но они знают это, когда видят это, и я думаю, что это одна из причин, почему некоторые из ранних историй о негативной реакции [против ресторанов, использующих меню ИИ] так ярко выражены».
За нашим отвращением к этим меню ИИ стоит наука. Исследователи из Университета Дуйсбург-Эссен в Германии обнаружили, что изображения продуктов питания, созданные искусственным интеллектом, демонстрируют эффект «сверхъестественной долины», где изображения продуктов питания, которые выглядели почти реальными, вызывали больше отвращения и беспокойства, чем изображения, которые были явно поддельными. Эта брезгливость только усиливается в свете культурного контекста вокруг ИИ.
Если люди реагируют на эти изображения так негативно, то это, вероятно, является достаточной причиной для того, чтобы рестораны перестали пытаться заставить работать меню ИИ. Но проблемы, которые приносят нам идеально коричневые булочки для гамбургеров, выходят за рамки обеденного стола.
«Видение и слушание всегда были верующими, вплоть до того, что даже наши судебные системы полностью настроены на идею о том, что золотой стандарт в доказательствах — это записанные на пленку признания и записанные на видео доказательства», — сказал Лисл. Мир коренным образом изменился — к лучшему или к плохому».
Вопросы и ответы
Почему изображения еды, созданные ИИ, выглядят такими неестественно гладкими и симметричными?
Модели ИИ обучаются на больших наборах данных, включая фотографии еды из ресторанных меню, которые часто стилизованы для привлекательности. Они выявляют и усиливают эти паттерны, что приводит к преувеличенно идеальным изображениям. Это явление называют конвергенцией, когда качество ухудшается, но не разрушается полностью.
Что такое коллапс модели и чем он отличается от конвергенции?
Коллапс модели — это когда ИИ обучается на собственном сгенерированном контенте, что приводит к инбридингу и разрушению модели. Конвергенция — менее экстремальный процесс, при котором качество ухудшается, но модель остается работоспособной. В случае с меню это проявляется в усилении стиля до гомогенизации.
Почему люди испытывают отвращение к изображениям еды, созданным ИИ?
Исследователи из Университета Дуйсбург-Эссен обнаружили, что почти реальные изображения еды вызывают эффект ‘сверхъестественной долины’, приводящий к отвращению и беспокойству. Люди чувствуют, что что-то не так, даже если не могут точно объяснить, что именно. Это усугубляется культурным контекстом вокруг ИИ.
