Grok, IA de Musk, agora diz que limita edição de imagens em meio a polêmica com fotos de mulheres e crianças

Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
O Grok, inteligência artificial do X, de Elon Musk, passou a informar que a edição de imagens está restrita a assinantes do serviço. A mudança ocorre após a plataforma ser tomada por fotos manipuladas de mulheres reais com pouca roupa ou nudez, e de crianças com roupas íntimas.
Em buscas feitas pelo g1 no X, foram encontradas interações em que usuários pedem ao Grok alterações em imagens já publicadas por outras pessoas na plataforma.
‘Me sinto suja’, diz brasileira vítima de foto editada pelo Grok
Nesses casos, o Grok agora está respondendo: “A geração e edição de imagens atualmente são limitadas a assinantes pagantes. Você pode se inscrever para desbloquear estes recursos”. A mensagem vem acompanhada de um link para a página de assinatura.
Procurado, o X informou que está verificando a resposta da IA e que passará mais detalhes “assim que tiver alguma atualização”.
Interações do Grok com edição de imagem dentro do X
Reprodução/X
O g1 mostrou na quinta-feira (8) o caso de uma brasileira que teve fotos usadas no antigo Twitter para gerar imagens que simulavam nudez ou o uso de roupas íntimas.
Antes do caso dela, a prática ganhou repercussão quando a jornalista Julie Yukari denunciou à polícia que também teve fotos manipuladas pela mesma ferramenta, no último dia 2.
Em meio à onda de imagens manipuladas de mulheres, outras fotos publicadas no X, geradas a partir de comandos de usuários ao Grok, mostravam menores de idade usando roupas mínimas. No dia 2, o Grok afirmou que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas na rede social X.
‘Horrível. Me sinto suja’, diz brasileira vítima
Giovanna (nome fictício) teve sua foto modificada por usuário do X.
Reprodução/Redes sociais.
“Eu fiquei em choque quando vi (…). É um sentimento horrível. Eu me senti suja, sabe?”, disse Giovanna*, ao ser informada pelo g1 que uma foto sua de biquíni estava na rede social X, na última segunda-feira (7). “Na foto original, do meu story, eu estava de calça.”
A imagem de Giovanna* que foi manipulada tinha sido publicada recentemente em seu perfil público no Instagram. Uma conta no X identificada como “@endricklamar__” repostou essa imagem no X e pediu que o Grok a retratasse de biquíni.
O g1 identificou as manipulações ao buscar palavras-chave relacionadas ao tema na barra de pesquisa do X. A partir disso, foi possível localizar solicitações ao Grok feitas pela conta “@endricklamar__”, incluindo uma em que aparecia o @ de Giovanna*.
Criado em junho de 2025, o perfil reunia imagens de outras mulheres, cuja identidade não foi possível confirmar (veja os prints abaixo). Não foram encontradas, porém, manipulações semelhantes envolvendo homens.
Ao ser contatada, Giovanna* disse que ficou assustada ao saber do uso da própria imagem sem consentimento e afirmou não conhecer o perfil em questão.
“Na foto original, do meu story, eu estava de calça. Já na imagem manipulada pela IA, aparece o mesmo local, a mesma pose, tudo igual, só que de biquíni”, comparou.
“Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores”, completou a vítima, que disse já ter denunciado o post e afirmou que pretende registrar um Boletim de Ocorrência.
No próprio X, o g1 tentou contato com o responsável pela conta @endricklamar__, mas recebeu apenas a resposta “??”. Algumas horas depois, ele excluiu as fotos e o perfil (veja na imagem abaixo).
Perfil excluído logo após o contato do g1.
Reprodução/X
Em sua Política de Uso, a xAI, empresa de Musk responsável pelo Grok, afirma que proíbe o uso da IA para “tomar ações não autorizadas em nome de terceiros”, “retratar imagens de pessoas de forma pornográfica” e para “a sexualização ou exploração de crianças”.
“Isso gera ainda mais responsabilidade por parte da plataforma, porque há uma política, mas ela não é cumprida”, diz Patrícia Peck, advogada especialista em direito digital.
Esta reportagem está em atualização.



Source link