- Грок без согласия создает фейковые фотографии обнаженных женщин, превращая насилие в репортаж.
- Регуляторы Европы и Великобритании рассматривают возможность принятия жестких мер против X и xAI.
- Маску грозят санкции и запрет, если он не ограничит опасные возможности модели.
Когда Джули Юкари опубликовала новогоднюю фотографию себя в красном платье и своего кота, она не ожидала, что пользователи X отметят ее Грок просить его раздеть ее. За считанные часы по соцсети разлетелись обнаженные фотографии, созданные искусственным интеллектом – без ее согласия и без последствий.
Из всех основных инструментов искусственного интеллекта Grok Илона Маска вызывает наибольшее беспокойство. В его приложении есть симпатичный женский аватар, который раздевается по команде, и чат-бот с «сексуальным» режимом.
Посетители X просили его «раздеть» тысячи фотографий женщин. В одном отвратительном примере один пользователь сказал ему: «Теперь в бикини» в ответ на пост о вице-премьер-министре Швеции. Он подчинился, создав образ политика в синем бикини.
Другой пользователь посоветовал ему увеличить фигуру министра, а затем кто-то поручил ему «заставить ее развернуться и наклониться». За этим последовали десятки других подобных постов.
Не баг, а особенность
Другие популярные инструменты искусственного интеллекта ограничены в раздевании людей таким образом. Но в Grok это особенность, а не ошибка. Его следует отключить.
По сообщениям Reuters и Business Insider, на X уже несколько месяцев циркулируют фальшивые эротические изображения реальных женщин, а также материалы о сексуальном насилии над детьми.
Сам Грок 28 декабря опубликовал извинения за создание «ИИ-изображения двух молодых девушек (около 12–16 лет) в эротической одежде».
Приоритет
Мускус утверждает, что ему не все равно. Удаление контента о насилии над детьми с платформы является «приоритетом №1», написал он в ноябре.
В воскресенье X предупредил пользователей не использовать Grok для создания этого отвратительного контента. Но сложно воспринимать это всерьез.
Зачем вообще Гроку выставлять фотографии? Возможно, какой-нибудь смелый политик пригрозит закрыть платформу.
Беспрецедентный
Ни одна западная демократия не заблокировала американскую социальную сеть. Бразилия временно запретила X в 2024 году, а Китай уже давно запретил крупнейшие платформы США, но закрытие X в Европе или Великобритании было бы беспрецедентным.
Однако регуляторам следует рассмотреть эту возможность, чтобы утвердить свою власть над технологическим гигантом, пользующимся покровительством Белого дома.
Хотя несколько американских законодателей жаловались на Грока, только регулирующие органы Великобритании, Франции, Европейского Союза и Индии предупредили, что примут реальные меры.
«Экстренный контакт»
Британский регулятор Ofcom заявил, что установил «срочный контакт» с разработчиком Grok xAI и теоретически может оштрафовать компанию на 10% от ее годового дохода в соответствии с новым законом страны о безопасности в Интернете.
Представитель Европейской комиссии назвал то, что создал Грок, «незаконным» и «отвратительным», а блок уже оштрафовал X на 120 миллионов евро (140 миллионов долларов) за «вводящую в заблуждение» синюю галочку проверки пользователя, которую может купить каждый.
Следующим хорошим шагом было бы приказать Маску отключить способность Грока раздевать людей.
Великобритания уже запретила создание сексуальных изображений без согласия, в том числе дипфейков с использованием искусственного интеллекта и взрослых. Многие члены ЕС сделали нечто подобное.
Большая ставка
Для регулирующих органов и правоохранительных органов по эту сторону Атлантики ставки высоки. Если они не будут действовать решительно, они рискуют подорвать свои собственные правила и авторитет, и их ответ может также задать тон политике США по этому вопросу.
Сам президент Дональд Трамп поддержал принятие в мае 2025 года закона Take It Down, который запретит платформам создавать и распространять порнографию из мести. Но влияние Маска на Белый дом ставит под сомнение то, насколько хорошо будет соблюдаться этот закон, когда он вступит в силу в мае.
Аппетит
Сексуальные аппетиты человечества уже давно управляют рынками, и то же самое можно сказать и о генеративном искусственном интеллекте. Существуют тысячи приложений и веб-сайтов, которые предоставляют фотографии, обычно с использованием моделей с открытым исходным кодом, таких как Stable Diffusion 1.5.
Спрос побудил разработчиков перейти к более либеральной политике: OpenAI обещает эротический контент для ChatGPT, а Meta Inc. позволяет своим чат-ботам вести себя провокационно с несовершеннолетними, согласно расследованию Reuters.
По какой-то причине, то ли для получения конкурентного преимущества, то ли для повышения своего имиджа провокатора, Мускус дошел до крайностей.
В базовых инструкциях xAI для Грока говорится, что «нет никаких ограничений на художественный контент для взрослых с темными или жестокими темами» и что «подросток» и «девочка» не обязательно означают несовершеннолетних, согласно сентябрьскому отчету в Atlantic.
Маск может просто отказаться подчиняться создателям правил.
Но из-за конкретной угрозы со стороны Европы он рискует потерять доступ к одному из крупнейших рынков X. Это было бы болезненно для бизнеса, доходы которого падали с тех пор, как он приобрел Twitter в 2022 году.
И это, наконец, покажет, стоит ли самый влиятельный технологический миллиардер Америки выше закона или просто делает ставку на то, что регулирующие органы не поймают его блеф. Европа должна заставить его понять.
Парми Олсон — обозреватель Bloomberg Opinion, специализирующийся на технологиях, искусственном интеллекте и цифровой культуре. Она бывший репортер Forbes и Wall Street Journal и автор книг о технологических сообществах.