Сеть X ограничила генерацию изображений для неплатящих пользователей, но этого недостаточно, заявили в ЕС

Социальная сеть X, принадлежащая американскому миллиардеру Илону Маску, отключила возможность генерации и редактирования изображений для неплатящих пользователей через чат-бота с элементами искусственного интеллекта (AI) по имени Грок. Это решение стало ответом на критику, связанной с тем, что чат-бот по запросу пользователей создавал сексуализированные фотографии женщин и детей. Представители Европейской комиссии и британского правительства уже раскритиковали этот шаг как недостаточный.

Функцию генерации изображений все еще могут использовать пользователи с синим значком верификации, которые оплачивают премиум-версию платформы. В Чехии стоимость подписки на премиум-версию составляет 67 крон в месяц. "Это не меняет нашей основной позиции. Мы не хотим видеть такие изображения, независимо от того, платное это или бесплатное подписка. Всё просто," - заявил представитель Европейской комиссии Томас Регнье.

"Это не решает проблемы. На самом деле, это оскорбительно для жертв мизогинии и сексуального насилия. Это лишь подтверждает, что X может действовать быстро, когда хочет," - отметил представитель правительства Великобритании в интервью The Guardian, добавив, что сеть просто изменила функцию с бесплатной на платную. "Пришло время, чтобы X занялась этим вопросом," - добавил он.

Представительница немецкого министерства юстиции Анна-Лена Бекфельд также сообщила, что немецкое правительство займется этой проблемой. "Неприемлемо, чтобы манипуляции в большом масштабе использовались для систематического нарушения личных прав," - заявила она.

"Мы хотим обеспечить более эффективное применение уголовного права в борьбе с этим явлением," - добавила она, отметив, что министерство работает над улучшением регулирования правдоподобных подделок изображений и видео, генерируемых AI (так называемых deepfakes), а также планирует законопроект против цифрового насилия в поддержку его жертв.

Европейская комиссия в четверг отправила компании X Corp запрос на информацию о Гроке в ответ на скандал с сексуализированными изображениями. Брюссель также потребовал от компании сохранить все документы, касающиеся Грока, на своей платформе X до конца текущего года.

"Незаконно. Неприемлемо. Омерзительно," - отметил Регнье, добавив, что согласно европейскому регламенту о цифровых услугах (DSA), сеть X обязана решить эту ситуацию. "Поскольку такой контент мы не можем терпеть. Это противоречит европейским ценностям и основным правам. Соблюдение европейского законодательства не является выбором, это обязанность," - заключил он.

Чат-бот генерировал сексуализированные изображения детей, которые были размещены на платформе X, что вызвало опасения по поводу безопасности модели, как сообщает Financial Times. Грок позже заявил в посте на сайте X, что материалы с сексуальным насилием над детьми являются "незаконными и запрещенными".

Докторантка Тринити-колледжа в Дублине Нана Нвачукву собрала около 500 взаимодействий пользователей сети X с Гроком, в которых, по данным The Guardian, показано, как часто происходят подобные случаи. Почти три четверти запросов были связаны с изображениями реальных женщин или несовершеннолетних с удаленными или добавленными частями одежды.

Пользователи, по словам Нвачукву, советуют друг другу, как формулировать запросы. Они предлагают Гроку показать женщин в белье или купальниках, а также с частями тела, покрытыми семенной жидкостью, и просят чат-бота удалить верхнюю одежду в ответах на посты, содержащие автопортреты пользователей. Из контекста следует, что это происходит без согласия затронутых женщин.

Маск в прошлом году объявил, что его стартап в области искусственного интеллекта xAI взял под контроль сеть X, которая включает в себя компанию X Corp, оператора платформы X. Стартап также разрабатывает чат-бота Грока, который был интегрирован в платформу X.

Одним из проектов Маска было интегрирование чат-бота в сеть X, что позволяет пользователям обращаться к нему за помощью в обычных общественных разговорах. Например, когда они хотят проверить, является ли высказывание другого пользователя правдой или предоставить ему контекст.

В прошлом году Грок публиковал антисемитские и оскорбительные комментарии. Среди его высказываний были, например, теории заговора о еврейском влиянии, и сам Грок в некоторых ответах называл себя МехаГитлером, роботизированным образом Гитлера, который впервые появился в видеоигре Wolfenstein 3D в 1992 году.