Запрет, изложенный в предложениях, с которыми ознакомилось издание POLITICO, может вступить в силу этим летом.
Эта инициатива появилась после того, как разработанный компанией X инструмент искусственного интеллекта Grok позволил пользователям генерировать миллионы изображений реальных людей в бикини или полностью обнаженных, включая изображения детей.
Предложение, которое должно быть одобрено послами ЕС в пятницу, запретит продажу в Европе любых систем искусственного интеллекта, способных создавать видеоролики, изображения или аудиофайлы сексуального характера без согласия участников, в которых участвуют реальные люди.
В среду депутаты Европейского парламента в ходе отдельных переговоров поддержали запрет.
Эти планы, которые могут вступить в силу уже этим летом после переговоров между странами ЕС и парламентом, поднимают вопросы о будущем множества приложений, позволяющих пользователям создавать поддельные изображения обнаженных людей на основе реальных фотографий, включая инструмент Илона Маска.
ЕС уже изучает вопрос о том, приняла ли компания X надлежащие меры по снижению рисков, связанных с интеграцией Grok в свою платформу, для предотвращения вреда от изображений сексуального характера.
«Речь идёт не только о Grok, — заявил немецкий депутат от партии «Зелёные» Сергей Лагодинский, один из нескольких парламентариев, поддержавших запрет. — Речь идёт о том, сколько власти мы готовы дать ИИ для унижения людей».
Нажатие на курок
Возможности Grok по генерации изображений стали вирусными в конце 2025 года.По оценкам организаций гражданского общества , за 11 дней до внесения изменений для предотвращения распространения подобных фотографий чат-бот мог сгенерировать до 3 миллионов изображений сексуального характера, полученных без согласия жертвы, и 20 000 изображений сексуального насилия над детьми.Платформа предприняла шаги по ограничению этой функции 9 января, а затем снова 14 января. Объявляя об этих изменениях, X заявила : «Мы по-прежнему привержены тому, чтобы сделать X безопасной платформой для всех, и продолжаем придерживаться политики нулевой терпимости к любым формам сексуальной эксплуатации детей, демонстрации наготы без согласия и нежелательному контенту сексуального характера».
ЕС проводит расследование, чтобы выяснить , были ли эти меры достаточными.
В середине января десятки законодателей впервые призвали к запрету приложений и инструментов для создания обнаженного тела с помощью ИИ. Теперь законодатели ЕС намерены воплотить это в жизнь, разработав план по внесению поправок в свод правил ЕС по ИИ .Предложение, представленное Европейской комиссией в ноябре, первоначально было направлено на смягчение ограничений для компаний, занимающихся искусственным интеллектом, и снижение регуляторной нагрузки.
Ситуация изменилась после того, как выяснилось, что пользователи Grok раздевали женщин и детей, что привлекло внимание законодателей ЕС к этому вопросу и вывело его за рамки тем, которые изначально считались деликатными, включая планы по отсрочке ограничений на использование высокорискованного искусственного интеллекта.
Кипр, который в течение нескольких недель председательствует в Совете ЕС и отвечает за выработку единой позиции среди стран ЕС, в ряде раундов подготовки законопроекта не включал запрет на системы искусственного интеллекта, позволяющие получать обнаженное тело.Ситуация изменилась во вторник, когда киприоты представили почти окончательный вариант текста, поддерживающий запрет на системы искусственного интеллекта , способные генерировать изображения, видео или аудио «идентифицируемых интимных частей тела физического лица или идентифицируемых физических лиц, занимающихся действиями сексуального характера».
Включение запрета в текст — победа для таких стран, как Испания, которые активно выступали за его введение. Послы ЕС должны утвердить текст в пятницу.
В среду депутаты Европейского парламента согласовали включение в законопроект положений, запрещающих «системы искусственного интеллекта, которые изменяют, манипулируют или искусственно создают реалистичные изображения или видео с целью изображения действий сексуального характера или интимных частей тела идентифицируемого физического лица без согласия этого лица».
Однако в соглашении, достигнутом на политической встрече в среду, отмечается, что запрет не будет распространяться на компании, «которые приняли эффективные меры безопасности для предотвращения создания подобных изображений и во избежание их неправомерного использования».
Текст еще не является окончательным, голосование ведущих комитетов парламента по нему запланировано на 18 марта.
Затем Парламент и Совет соберутся, чтобы согласовать окончательный вариант, прежде чем запрет вступит в силу.
Во вторник парламент также призвал Комиссию «изучить меры по защите граждан от распространения сфабрикованных и созданных с помощью ИИ цифровых изображений, аудио- или видеоконтента» в рамках отдельного доклада об ИИ и авторском праве.
«То, что для одного человека может показаться шуткой на 10 секунд, может нанести жертве непоправимый вред», — заявила в понедельник депутат от голландской партии «Зелёные» Ким ван Спаррентак. «Давно пора запретить все эти приложения».
https://www.politico.eu/article/eu-grok ... f-scandal/