Violações no Grok continuam, dizem MPF, ANPD e Senacon

O Ministério Público Federalista (MPF), a Sucursal Vernáculo de Proteção de Dados (ANPD) e a Secretaria Vernáculo do Consumidor (Senacon) avaliaram as respostas apresentadas pela plataforma X e concluíram pela insuficiência das providências informadas pela empresa em relação à sua utensílio de lucidez sintético (IA), o Grok, que vem sendo usada indevidamente para a geração e circulação de imagens de pessoas em contexto de sexualização, de forma não autorizada.

No mês pretérito, as três entidades emitiram uma série recomendações à plataforma X. Entre essas recomendações, estava a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X, quando gerados pelo Grok a partir de comandos feitos por usuários.

“Em sua resposta à recomendação conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam medir sua efetividade. Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a perpetuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”, informaram MPF, ANPD e Senacon, em nota.

Em novidade revelação, divulgada nesta quarta-feira (11), os três órgãos determinaram que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de teor sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento.

As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados na recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a saudação do tema e ressaltou que a empresa não foi transparente em sua resposta.

A ANPD, o MPF e a Senacon atuam de forma coordenada na apuração dos fatos relacionados ao uso indevido da utensílio de lucidez sintético Grok. Cada instituição tem um procedimento administrativo em acessível contra a plataforma, de pacto com a suas áreas de conhecimento.

No caso da ANPD, a medida preventiva exige que os recursos que impedem o uso indevido da utensílio de IA devem abranger todas as versões, planos e modalidades do Grok.

No contexto do MPF, foi exigido o envio de relatórios mensais, a partir deste mês de fevereiro, com detalhes sobre uma vez que o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia, indicando o número de postagens nocivas que foram derrubadas e o número de contas envolvidas nessas práticas que foram suspensas, em cada período relatado, pelos controladores da plataforma.

Se não for cumprida, a empresa de rede social poderá ser multada diariamente. Os envolvidos também poderão responder pelo violação de subversão e a empresa pode suportar medidas investigatórias mais severas, além de ser fim de ação judicial, informou o MPF.

Em medida cautelar administrativa, a Senacon cobrou a comprovação de providências já adotadas para sustar os riscos identificados e sanar os problemas apontados na recomendação conjunta.

Também foi exigida a remessa de relatório métrico detalhado, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e eventual adoção de medidas corretivas adicionais, uma vez que suspensão de contas ou restrição de funcionalidades.

A reportagem tenta contato com a assessoria da Plataforma X no Brasil, para obter um posicionamento sobre essa novidade revelação conjunta do MPF, da ANPD e da Senacon.