Амелия Эрхарт и Бетти Фридан, представленные ИИ Lensa. Фотография: Lensa AI/The Guardian
Официально приложение Lensa AI создает «волшебные аватары», которые превращают селфи пользователя в роскошно стилизованные произведения искусства. Его рекламировали такие знаменитости, как Chance the Rapper, Томми Дорфман, Дженнифер Лав Хьюитт и муж Бритни Спирс Сэм Асгари. Но для многих женщин приложение делает больше, чем просто выдает красивую картинку: конечные результаты сильно сексуализированы, увеличивая женскую грудь и превращая их тела в телосложения в виде песочных часов. От редакцииПодробнее
«Это только я, или эти приложения-генераторы селфи с искусственным интеллектом увековечивают женоненавистничество?» — написала в Твиттере Брэнди Баркер, феминистка и активистка, работавшая в сфере высоких технологий. «Вот несколько, которые я получил только на основе фотографий моего лица». Один из результатов Баркер показал, что она носила нарощенные волосы супермодельной длины и комбинезон с глубоким вырезом. На другом она была в белом лифчике с декольте, выходящим сверху.
«Ленса сделала мне грудь! Спасибо АИ!!!” — написал в Твиттере другой пользователь, который также получил обнаженный снимок головы прямо над грудью. «У кого-нибудь еще есть куча сисек на фотографиях Lensa или только у меня?» — спросил другой.
Хотя приложение не новое (похожая программа стала вирусной еще в 2016 году и привлекала миллион пользователей в день), недавно оно поднялось на вершину самые загружаемые фото- и видеоприложения в Apple App Store. Пользователи платят 7,99 доллара США и загружают 10-20 селфи, а алгоритм стабильной диффузии создает 50 фотографий на основе подсказок изображения.
Чтобы протестировать программное обеспечение, Guardian загрузила изображения трех известных феминисток: Бетти Фридан, Ширли Чисхолм и Амелии Эрхарт. Автор «Загадки женственности» стала похожей на нимфу полной грудью молодой женщиной, одетой в кучу кудрей и в платье-комбинации. У Чисхолм, первой чернокожей женщины, избранной в Конгресс США, были осы. А пионер авиации был изображен голым, опираясь на что-то похожее на кровать.
Ширли Чизхолм визуализирована Lensa AI. Фотография: Lensa AI/The Guardian
На всех фотографиях, представленных Guardian, изображены иконы на разных этапах их жизни; на большинстве фотографий, обработанных искусственным интеллектом, которые мы получили, они были довольно молодыми, с гладкой кожей и небольшим количеством морщин.
Баркер рассказала The Guardian, что она загрузила только фотографии своего лица в Lensa AI и ожидала получить обрезанные снимки головы. «Да, но я также получила несколько сексуализированных, полуодетых, большегрудых, миниатюрных «волшебных принцесс», «космических» и «фантастических изображений», — сказала она. «Они были совсем не похожи на меня и смущали, даже тревожили».
Хотя Баркер считает, что приложения с искусственным интеллектом обладают «огромным потенциалом», она сказала, что технологии еще далеко до того, как она изображает женщин и женственность. «Эти сексуализированные аватары были настолько нереалистичными и недостижимыми, что они казались противоречащими столь большому прогрессу, которого мы достигли, особенно в отношении инклюзивности размеров и позитивности тела», — добавила она. «Эта технология не является безошибочной, потому что за ней стоят люди, и их предвзятость повлияет на наборы данных».
Это всего лишь одна критика Lensa AI. После того, как приложение стало вирусным, TechCrunch отметил, что если пользователи отправляли фотографии лица человека, отфотошопленного поверх тела обнаженной модели, приложение «сходило с ума», отключая фильтр «небезопасно для работы» (NSFW) и предоставляя больше ню. Это означает, что приложение может быть использовано для создания порно без ведома или согласия исходного субъекта. Художники также выступили против приложения, заявив, что оно крадет их оригинальные изображения, чтобы дополнять свои портреты, не платя за их работу.
Это только я или это ИИ? приложения-генераторы селфи, увековечивающие женоненавистничество? Вот несколько, которые я получил только на основе моих фотографий моего лица. pic.twitter.com/rutRVRtRvG
— Брэнди Баркер (@brandee) 3 декабря 2022 г.
Чтобы протестировать программное обеспечение, я также отправил в приложение 10 своих фотографий, полностью одетых, и получил два обнаженных тела, созданных искусственным интеллектом. Одна была «фантазийной» версией, вырезанной из отходов, с видимыми сосками, но слегка стертыми. Другой был из «космической» категории, который выглядел так, будто я был топлесс или в мокрой футболке.
В эссе для Wired писательница Оливия Сноу написала, что она отправила «смесь детских фотографий и [текущих] селфи» в Lensa AI и получила в ответ «полностью обнаженные фотографии подростка, иногда детского лица, но явно взрослого тела».
Кэт Уиллет, иллюстратор из Бруклина, сказала, что изначально хотела попробовать Lensa AI, когда впервые увидела, как друг публикует свои результаты. «Но что-то в этом было странным. Я видел больше людей, загружающих портреты, и все они выглядели как девочки-подростки из комиксов». понимает, что это часть очарования. «Это любопытство — даже если вы знаете, что это неправильно, вы хотите увидеть, как выглядит ваше», — сказала она.
Уиллет иногда заказывают портреты людей, и он понимает, что многие клиенты хотят видеть себя сглаженными, идеализированными изображениями. Иногда она рисует реалистичное изображение на основе эталонных фотографий, и клиенты говорят, что их зубы выглядят слишком большими или нос должен быть тоньше.
Представитель Prisma Labs, которой принадлежит Lensa AI, отправил Guardian список часто задаваемых вопросов, который, в частности, гласил: «Обратите внимание, что случайная сексуализация наблюдается во всех гендерных категориях, хотя и по-разному. Модель стабильной диффузии обучалась на нефильтрованном интернет-контенте. Таким образом, это отражает предубеждения, которые люди вкладывают в создаваемые ими образы. Создатели признают возможность социальных предубеждений. Мы тоже».
Согласно часто задаваемым вопросам, фильтры NSFW приложения предназначены «для уменьшения предвзятости», но «к сожалению, все эти усилия еще не сделали ИИ абсолютно безопасным от предвзятого контента и откровенных изображений. Поэтому мы оговариваем, что продукт не предназначен для использования несовершеннолетними, и предупреждаем пользователей о потенциальных рисках контента. Мы также воздерживаемся от использования таких изображений в наших рекламных материалах».
Lensa AI в настоящее время указана как подходящая для детей в возрасте от четырех лет и старше в Apple App Store. Дипфейк или порно с искусственным интеллектом вряд ли вызывают озабоченность только у разработчиков Lensa: это постоянно вызывает озабоченность и на других популярных платформах.
PornHub официально запретил поддельные видео знаменитостей в 2018 году, хотя сообщается (и беглый поиск на PornHub) показывают, что эти видео все еще публикуются на сайте. Reddit имеет аналогичную политику, запрещающую пользователям публиковать дипфейки без их согласия. Теперь технология Lensa AI иногда выпускает поддельные обнаженные тела без запроса пользователей. Пока женщины-пользователи приложения ждут, пока компания решит их проблемы, они будут по-прежнему чувствовать себя разочарованными и, возможно, оскорбленными своими портретами, созданными искусственным интеллектом.
Recent Comments