Governo manda X bloquear imagens do Grok com teor sexual

O governo brasileiro se movimentou para barrar o uso da ferramenta do Grok (inteligência artificial do X) que sexualiza imagens de pessoas sem o consentimento. A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) enviaram uma recomendação conjunta ao X para que a empresa impeça a geração e a circulação de imagens com teor sexual produzidas pelo Grok no país.

Leia mais: O que o Brasil vai fazer para parar o Grok?: Governo manda X bloquear imagens do Grok com teor sexual

UM iniciativa é inédita no Brasil por tratar diretamente do funcionamento de uma ferramenta de IA generativa em larga escalae não apenas do conteúdo publicado por usuários ou pelos dados usados para treinar os modelos. Os órgãos avaliam que o próprio desenho da tecnologia e não só seu uso pode violar direitos fundamentais.

Segundo os órgãos, denúncias recebidas e testes feitos pelas próprias instituições indicam que a ferramenta de inteligência artificial tem sido usada para criar deepfakes sexualizadas a partir de imagens de pessoas reaisincluindo mulheres, crianças e adolescentes. Em alguns casos, esse material ficou acessível a qualquer usuário da plataforma, ampliando o risco de exposição indevida e de danos às pessoas retratadas.

A atuação conjunta, explicam as instituições, se justifica porque o problema atinge diferentes frentes ao mesmo tempo: proteção de dados pessoais, relações de consumo e direitos fundamentais, como dignidade, privacidade e proteção integral de crianças e adolescentes.

Na prática, a recomendação pede que o X bloqueie imediatamente qualquer funcionalidade do Grok capaz de gerar imagensvídeos ou áudios de pessoas identificáveis em contextos sexualizados ou erotizados. A exigência vale para todas as versões e modalidades da ferramenta, inclusive para usuários pagantes. Além disso, a empresa deve criar, em até 30 diasprocedimentos técnicos claros para identificar e remover conteúdos desse tipo que já estejam disponíveis na plataforma.

SUSPENDER CONTAS E VARRER O X

Os órgãos também recomendam a suspensão das contas envolvidas na produção dessas imagensa criação de canais de denúncia mais acessíveis e transparentes e a elaboração de um relatório de impacto à proteção de dados pessoaisespecífico para o uso do Grok na manipulação de imagens de pessoas reais.

Leia mais: Deepfakes com IA da Grok geram alerta: veja o que fazer se você for vítima: Governo manda X bloquear imagens do Grok com teor sexual

Levantamentos independentes indicam que o Grok chegou a gerar cerca de 6,7 mil imagens sexualizadas por hora no auge da circulação internacional desse tipo de conteúdo. Um estudo do grupo Análise forense de IA analisou mais de 20 mil imagens geradas em poucos dias e apontou que 53% delas exibiam pessoas com pouca roupa, enquanto uma parcela envolvia adolescentes e pedidos explícitos de remoção de vestimentas de mulheres reais.

Caso o X não cumpra as recomendações ou apresente medidas consideradas insuficientes, a ANPD, o MPF e a Senacon afirmam que poderão adotar outras providências, tanto na esfera administrativa quanto na judicialdentro das atribuições de cada órgão.

A manifestação oficial ocorre dias depois de o funcionamento do Grok no Brasil ter sido questionado por organizações da sociedade civil e especialistas e sinaliza que o debate sobre os limites da ferramenta começa a sair do campo das denúncias para o da resposta institucional.