ИИ-модель Grok, принадлежащая Илону Маску, ограничила создание и редактирование изображений реальных людей в откровенной одежде после расследований и требований регуляторов в США и других странах, передает Arasha.kz со ссылкой на BBC.
Как сообщили власти штата Калифорния, генеральный прокурор Роберт Бонта начал проверку распространения сексуализированных ИИ-дипфейков, включая изображения с участием несовершеннолетних, созданных с помощью Grok. На фоне расследования власти официально потребовали от разработчиков прекратить производство и распространение подобного контента.
Grok уже оказался под вниманием регуляторов в Великобритании, Европейском союзе и ряде стран Азии из-за генерации интимных дипфейков без согласия реальных людей.
В ответ на критику и юридическое давление компания X, управляющая инструментом Grok AI, объявила о новых мерах:
Grok больше не сможет редактировать изображения реальных людей, изображая их в бикини, нижнем белье или аналогичной откровенной одежде в тех юрисдикциях, где это запрещено законом;
ограничения распространяются на всех пользователей, включая платных подписчиков;
применяется геоблокировка в зависимости от законодательства конкретной страны.
«Мы приняли меры, чтобы Grok не позволял редактировать изображения реальных людей и изображать их в откровенной одежде», — говорится в заявлении платформы X.
В компании подчеркнули, что доступ к редактированию изображений через Grok на платформе X сохраняется только для пользователей с платной подпиской, что, по заявлению компании, добавляет дополнительный уровень контроля и ответственности.
По словам Илона Маска, при включённых настройках NSFW Grok может допускать обнажение верхней части тела только у вымышленных взрослых персонажей, но не у реальных людей.
«Это соответствует стандарту фильмов с рейтингом R в США. В других регионах правила будут зависеть от местного законодательства», — отметил Маск.
На данный момент компания xAI не сообщала о дополнительных шагах, однако подчеркнула, что новые меры направлены на предотвращение злоупотреблений и соблюдение законодательства.
