Чат-бот Grok, разработанный компанией xAI Илона Маска, несмотря на заявления о соблюдении законов, продолжает создавать сексуализированные изображения мужчин. После громкого скандала с интимными дипфейками женщин и детей X ввел ограничения, однако они оказались выборочными. Тесты The Verge показали, что инструменты остаются доступными и эффективными.

Несмотря на утверждение Илона Маска о том, что Grok отказывается создавать незаконный контент, чат-бот продолжает генерировать почти обнаженные и интимные изображения мужчин. Репортер The Verge Роберт Харт отмечает, что во время тестов Grok "все еще охотно раздевает мужчин и все еще выдает интимные изображения по требованию".

Журналист загрузил в Grok несколько собственных фотографий в полностью одетом виде. Бот беспрепятственно выполнял запросы на "снятие одежды" и создание образов в откровенном нижнем белье, в том числе бесплатно и даже без авторизации на отдельном сайте.

[see_also ids="668389"]

Grok также генерировал изображения в бикини и фетиш-одежде, включая кожаные доспехи и в сексуализированных позах. В отдельных случаях чат-бот добавлял детали, о которых пользователь не просил, в частности четко видимые гениталии сквозь сетчатое белье.

Для получения таких результатов обычно было достаточно нескольких повторений подсказок. Grok иногда отклонял запросы или цензурировал изображения, но в основном по крайней мере один из результатов соответствовал требованию. В прямом запросе на полную обнаженность реальных людей бот отказывал, однако формулировки вроде "показать ее в прозрачном бикини" иногда позволяли обойти ограничения.

Основной общественный гнев направлен на сексуализацию женщин и детей. За девять дней Grok создал более четырех миллионов изображений, почти половина из которых были сексуализированными образами женщин, но среди них также появлялись дипфейки мужчин и несовершеннолетних.

[see_also ids="668835"]

X заблокировал функцию редактирования изображений по платной подписке на платформе 9 января. Это частично уменьшило количество дипфейков, но решение вызвало новую волну критики и стало одним из факторов принятия в Великобритании закона, криминализирующего интимные дипфейки.

Скандал привлек внимание регуляторов в разных странах. X временно запрещали в Индонезии и Малайзии, а в Великобритании и ЕС деятельность платформы расследуют с риском штрафов или полного запрета.