Создан чат-бот Grok AI Илона Маска сексуальные изображения людей, включая несовершеннолетних, на платформе социальных сетей X в ответ на запросы пользователей в последние дни, что вызвало критику со стороны таких официальных лиц, как правительство Франции.
Грок создал и опубликовал изображения несовершеннолетних в минимальной одежде, что является явным нарушением собственной политики допустимого использования, которая запрещает сексуализацию детей.
Некоторые из проблемных изображений позже были удалены.
«Явно незаконный» сексуальный контент
В пятницу французское правительство обвинило Грока в создании «явно незаконного» сексуального контента на X без согласия людей, отметив, что это потенциальное нарушение Закона Европейского Союза о цифровых услугах.
Постановление требует, чтобы основные платформы снижали риск распространения незаконного контента, говорится в заявлении страны.
Представители xAI, компании, которая разработала Grok и управляет X, не ответили на запросы о комментариях. В пятницу чат-бот Grok опубликовал на X сообщение в ответ на вопросы пользователей о том, что он выявил «уязвимости безопасности», которые «срочно» устраняются.
Это подтвердил и сотрудник xAI Парса Таджик, который ранее сообщил, что «команда рассматривает возможность дальнейшего ужесточения» мер безопасности.
Пользователи X могут взаимодействовать с Гроком непосредственно на платформе, отмечая его аккаунт в сообщениях и предлагая чат-боту ответить. Грок генерирует текст и изображения, которые появляются в виде публикаций в социальной сети.
Модерация контента
Появление инструментов искусственного интеллекта, которые могут генерировать реалистичные изображения раздетых несовершеннолетних, подчеркивает проблемы модерации контента и систем безопасности, встроенных в большие языковые модели генерации изображений.
Инструментами, которые утверждают, что они имеют защитные меры, можно манипулировать, что позволяет распространять материалы, которые беспокоят защитников безопасности детей.
Internet Watch Foundation, неправительственная организация, которая выявляет в Интернете материалы о сексуальном насилии над детьми, сообщила о 400-процентном увеличении количества таких изображений, созданных ИИ, за первые шесть месяцев 2025 года.
«Продукты искусственного интеллекта должны быть тщательно протестированы перед их выпуском на рынок, чтобы убедиться, что они не способны генерировать материалы такого рода», — заявил в пятницу исполнительный директор фонда Керри Смит.
XAI позиционирует Grok как более либеральную модель искусственного интеллекта, чем другие основные модели искусственного интеллекта, и прошлым летом представила функцию под названием «Spicy Mode», которая допускает частичную наготу для взрослых и сексуально провокационный контент.
Сервис запрещает порнографию с изображениями реальных людей и контент сексуального характера с участием несовершеннолетних, создание или распространение которого является незаконным.
Однако пользователи убедили Грока удалить с фотографий в цифровом виде одежду – в основном женскую – так, чтобы на моделях казалось, что они одеты только в нижнее белье или трусики.
Это побудило министерство информационных технологий Индии запросить всестороннюю проверку функций безопасности Grok, согласно копии жалобы, опубликованной в пятницу членом индийского парламента Приянкой Чатурведи.
Член Раджья Сабхи Приянка Чатурведи написала министру электроники и информационных технологий (MeitY) Ашвини Вайшнау: «Я хотела срочно привлечь ваше внимание и попросить срочно вмешаться в отношении новой тенденции, которая возникла в социальных сетях, особенно в X».
В своем заявлении французское правительство заявило, что оно сообщило о сексуальном контенте, созданном Гроком, прокурору страны для немедленного удаления.
С ростом популярности создание изображений Благодаря искусственному интеллекту ведущие компании, стоящие за этими инструментами, опубликовали политику в отношении изображений несовершеннолетних.
OpenAI запрещает любые материалы, сексуализирующие детей до 18 лет, и блокирует любого пользователя, который пытается создать или загрузить такие материалы.
У Google есть аналогичная политика, которая запрещает «любые измененные изображения идентифицируемых несовершеннолетних, занимающихся откровенно сексуальным поведением».
Black Forest Labs, стартап в области искусственного интеллекта, ранее работавший с X, входит в число многих компаний, занимающихся разработкой искусственного интеллекта, которые заявляют, что фильтруют изображения жестокого обращения и эксплуатации детей из наборов данных, используемых для обучения моделей искусственного интеллекта.
В 2023 году исследователи обнаружили, что огромный общедоступный набор данных, используемый для создания популярных генераторов изображений ИИ, содержит как минимум 1008 случаев материалов о сексуальном насилии над детьми.
Многие компании подверглись критике за неспособность защитить несовершеннолетних от контента сексуального характера.
Летом компания Meta Platforms Inc. заявила, что обновляет свою политику после того, как в отчете Reuters выяснилось, что внутренние правила компании позволяют ее чат-боту вести романтические и чувственные разговоры с детьми.