В Великобритании проведут проверку в отношении чатбота Grok с искусственным интеллектом, разработанного компанией xAI Илона Маска и встроенного в соцсеть Х. Орган по надзору за СМИ Ofcom выяснит, нарушил ли X законодательство страны тем, что Grok использовался для создания и распространения сексуализированных изображений женщин и детей.
Об этом пишет Sky News. Государственный секретарь по вопросам науки, инноваций и технологий Лиз Кендалл заявила, что на этой неделе создание интимных изображений без согласия с помощью искусственного интеллекта станет уголовным преступлением. Это будет включать и запрос на создание таких изображений.
За несколько часов до этого объявления медиа-регулятор Ofcom начал официальное расследование в отношении инструмента ИИ компании X, Grok, в связи с сообщениями о его использовании для создания сексуализированных изображений женщин и детей.
Известно, что Ofcom связался с X в прошлый понедельник и установил четкий срок до прошлой пятницы, чтобы "объяснить, какие шаги он предпринял для выполнения своих обязанностей по защите своих пользователей в Великобритании". Компания ответила до истечения срока, и с тех пор Ofcom провел "ускоренную оценку имеющихся доказательств".
"Существуют очень тревожные сообщения о том, что чат-бот Grok AI в X используется для создания и распространения обнаженных изображений людей, что может быть приравнено к злоупотреблению интимными изображениями или порнографии, а также сексуализированных изображений детей, что может быть приравнено к сексуальному насилию над детьми", – отметил регулятор.
Кендалл подчеркнула, что очень важно, чтобы Ofcom быстро завершил это расследование, поскольку общественность – и, что самое важное, жертвы – не воспримут никаких задержек.
На Даунинг-стрит допустили, что правительство готово прекратить использование X, если платформа не примет меры в отношении своего чат-бота с искусственным интеллектом, добавив, что "все варианты рассматриваются".
"Сегодня и в течение последней недели мы полностью сосредоточились на защите детей и обеспечении немедленного удаления этого мерзкого контента", – так ответил официальный представитель премьер-министра на вопрос, оставит ли правительство X.
Между тем правительства Индонезии и Малайзии уже ограничили доступ к чатботу Grok. Они стали первыми странами, которые запретили систему ИИ из-за возможности создания откровенного контента.
На эти новогодние праздники пользователи соцсети X придумали себе новое сомнительное развлечение. Они начали приходить под посты с фотографиями и просить искусственный интеллект Grok раздеть людей на фото до бикини.
Этот "тренд" был направлен как на политиков и знаменитостей, так и на обычных людей. Мы собрали несколько примеров и объяснили, почему такие действия пользователей и самого ИИ опасны.
Актриса Сара Саламо, жена полузащитника "Бетиса" Иско, публично обвинила искусственный интеллект Grok от X в создании сексуализированных изображений с ее участием без согласия. По словам Сары, эта проблема для нее не нова.
Через некоторое время функции генерации и редактирования изображений стали доступны только платным подписчикам.
Несмотря на это, пользователи X все еще могут создавать сексуализированные изображения через вкладку Grok, где они общаются с ботом непосредственно внутри платформы, а затем уже самостоятельно публиковать эти картинки в X.
Отдельное приложение Grok, которое работает независимо от X, также и в дальнейшем позволяет пользователям генерировать изображения без оформления подписки.
Инцидент произошел накануне запуска новой версии Grok 4. После него генеральный директор соцсети X Линда Яккарино заявила, что решила оставить должность, которую она занимала два года.