O Ministério Público brasileiro, a ANPD (Autoridade Nacional de Proteção de Dados) e a Senacon (Secretaria Nacional do Consumidor) informaram nesta quarta-feira (11) que ordenaram à rede social X (antigo Twitter) que tome medidas imediatas para impedir a criação de imagens de caráter sexual geradas pelo Grok, seu assistente de inteligência artificial.

Vários países iniciaram procedimentos legais contra a plataforma após a indignação internacional em relação a essa ferramenta, que permite aos usuários pedir que pessoas reais sejam despidas a partir de fotos ou vídeos sem o seu consentimento e usando imagens falsas.

O X deve implementar “de forma imediata medidas aptas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes, assim como de adultos que não tenham expressado seu consentimento”, disseram as entidades.

As entidades deram à plataforma cinco dias para cumprir a determinação, sob pena de multa e ações judiciais.

Em 18 de janeiro, as mesmas três entidades brasileiras haviam recomendado uma série de medidas para que o X impedisse a criação dessas imagens. O documento solicitou, entre outras ações, a suspensão imediata das contas por trás da geração de imagens íntimas sem consentimento.

Segundo as autoridades brasileiras, após receber a notificação, o X afirmou “ter eliminado milhares de publicações e suspendido centenas de contas” e anunciou novas medidas de segurança.

Mas exames técnicos encontraram uma “persistência de falhas” que permite que esse tipo de conteúdo seja gerado e circule na plataforma, informaram as entidades. Com isso, o X foi denunciado por não ter sido “transparente em sua resposta”.

O X havia anunciado em meados de janeiro uma limitação de sua ferramenta de IA nos países onde a criação desse tipo de imagem é ilegal, embora ainda se desconheça exatamente onde essa limitação está em vigor.

Uma semana após a notificação do MP, da ANPD e da Senacon, o X continuou permitindo publicações de vídeos que simulam estupro e abuso sexual a despeito de sua própria política de segurança, de acordo com apuração da reportagem.

Em um espaço de uma semana, a reportagem identificou mais de 20 vídeos que aludiam à violência sexual. Outras 375 postagens mencionavam um tipo de parafilia caracterizado por excitação sexual com pessoas dormindo ou inconscientes —desse montante, quase um quinto tinha mídia, de vídeos a desenhos e ilustrações. Quando isso ocorre sem consentimento prévio, configura crime de estupro.

O Grok, da empresa xAI de Musk, permitiu que os usuários modificassem imagens reais de pessoas com instruções simples como “coloque um biquíni nela” ou “tire a roupa dela”.

Segundo o CCDH (Centro para Combater o Ódio Digital, na sigla em inglês), um observatório que investiga os efeitos nocivos da desinformação na internet, o chatbot gerou um estimado de três milhões de imagens sexualizadas de mulheres e menores em questão de dias.

Não é a primeira vez que a plataforma de Elon Musk enfrenta problemas no Brasil.

Em 2024, o antigo Twitter foi suspenso por 40 dias no país por ordem do STF (Supremo Tribunal Federal) ao não cumprir uma série de decisões judiciais relacionadas ao combate à informação falsa.