Тейлор Свифт генерируется. Источник: Theverge
Grok Imagine — это новый генеративный инструмент XAI, который может создавать изображения в соответствии с текстовым описанием, а затем генерировать короткое видео с статического изображения (до 15 секунд от аудио). Функция имеет четыре стиля: нормальный, веселый, индивидуальный и острый — последний позволяет создавать контент NSFW, включая топлесс или полностью обнаженные изображения.
В тесте журналиста Джесс Уэттерсед Грок Imagine, изображение Тейлор Свифт сначала сгенерировал изображение в узком топе, а затем создала видео, с которого она нарушает вершину и начинает танцевать на фоне безразличной толпы. Никогда не было так легко генерировать эротический дипфик — этого достаточно, чтобы нажать две кнопки.
Этические и правовые проблемы
Ранее были случаи, когда Грок генерировал сексуальные или политически неоднозначные изображения знаменитостей, в том числе изображения Тейлор Свифт, Харрис, Дональд Трамп, Микки Маус и многое другое.
Критики, в том числе Национальный центр по сексуальной эксплуатации, предупреждают, что опасность Grok Imagine — риск порнографии без согласия или глубокого разговора с голыми знаменитостями очень высок.
Правовое регулирование: в США утвержден Закон о принятом его, что обязывает быстрое удаление неприемлемых изображений ИИ. Кроме того, Конгресс США обсудил законопроект о защите, который позволяет жертвам DeepFake предъявлять иск за распространение таких изображений — в частности, Тейлор Свифт служил катализатором для этих движений.
Риски и последствия
Grok Imagine в настоящее время вкладывает новую полосу в возможность автоматического создания эротического видеоконтента DeepFake без разрешения. Правовой статус хрупкий — Лицензия XAI объявляет ограничения, но на практике не предотвращает злоупотребление. Искусственный интеллект ставит новые проблемы — сегодня вы можете штрафно или сделать алгоритмы изменений GROK, завтра будет появляться ИИ, а не контролируется правительством США. Учитывая, что выпуск искусственного интеллекта трудно предсказать, мы прочитаем новости о том, как народные мастера найдут новые механизмы, чтобы получить противоречивый результат. Тем не менее, вероятность того, что крупные американские компании будут настолько открыты для знаменитости, как правило, ноль.
Источник: www.theverge.com