Violações no Grok continuam, dizem MPF, ANPD e Senacon

O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas apresentadas pela plataforma X e concluíram

pela insuficiência das providências informadas pela empresa em relação à sua ferramenta de inteligência artificial (IA), o Grok, que vem sendo usada indevidamente para a geração e circulação de

imagens de pessoas em contexto de sexualização, de forma não autorizada. No mês passado, as três entidades emitiram uma série recomendações à plataforma X.

Entre essas recomendações, estava a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X, quando gerados pelo

Grok a partir de comandos feitos por usuários. "Em sua resposta à recomendação conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às

suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios

técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade. Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a

continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas", informaram MPF, ANPD e Senacon, em nota.

Em nova manifestação, divulgada nesta quarta-feira (11), os três órgãos determinaram que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo

sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento. As instituições também determinaram a prestação de informações sobre as providências já adotadas