O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas apresentadas pela plataforma X e concluíram pela insuficiência das providências informadas pela empresa em relação à sua ferramenta de inteligência artificial (IA), o Grok, que vem sendo usada indevidamente para a geração e circulação de imagens de pessoas em contexto de sexualização, de forma não autorizada.

No mês passado, as três entidades emitiram uma série recomendações à plataforma X. Entre essas recomendações, estava a adoção de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis no X, quando gerados pelo Grok a partir de comandos feitos por usuários.

Notícias relacionadas:

• TJSP vai ao STF para anular decisão que suspende penduricalhos ilegais.
• Itália começa a julgar extradição de Zambelli; audiência é suspensa.

“Em sua resposta à recomendação conjunta, a plataforma X afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Porém, na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade. Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”, informaram MPF, ANPD e Senacon, em nota.

Em nova manifestação, divulgada nesta quarta-feira (11), os três órgãos determinaram que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento.

As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados na recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta.

A ANPD, o MPF e a Senacon atuam de forma coordenada na apuração dos fatos relacionados ao uso indevido da ferramenta de inteligência artificial Grok. Cada instituição tem um procedimento administrativo em aberto contra a plataforma, de acordo com a suas áreas de competência.

No caso da ANPD, a medida preventiva exige que os recursos que impedem o uso indevido da ferramenta de IA devem abranger todas as versões, planos e modalidades do Grok.

No âmbito do MPF, foi exigido o envio de relatórios mensais, a partir deste mês de fevereiro, com detalhes sobre como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia, indicando o número de postagens nocivas que foram derrubadas e o número de contas envolvidas nessas práticas que foram suspensas, em cada período relatado, pelos controladores da plataforma.

Se não for cumprida, a empresa de rede social poderá ser multada diariamente. Os envolvidos também poderão responder pelo crime de desobediência e a empresa pode sofrer medidas investigatórias mais severas, além de ser alvo de ação judicial, informou o MPF.

Em medida cautelar administrativa, a Senacon cobrou a comprovação de providências já adotadas para conter os riscos identificados e sanar os problemas apontados na recomendação conjunta.

Também foi exigida a remessa de relatório métrico detalhado, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao funcionamento do Grok, incluindo número de conteúdos identificados e removidos, prazos médios de resposta, critérios técnicos utilizados e eventual adoção de medidas corretivas adicionais, como suspensão de contas ou restrição de funcionalidades.

A reportagem tenta contato com a assessoria da Plataforma X no Brasil, para obter um posicionamento sobre essa nova manifestação conjunta do MPF, da ANPD e da Senacon.

Fonte: Agência Brasil