A procura por engajamento é a causa da demora da plataforma X em impedir que a inteligência artificial Grok produza imagens pornográficas de crianças, adolescentes e adultos, na opinião de especialistas. Para autoridades, a empresa faz pouco para impedir esses crimes.
A especialista no Programa de Telecomunicações e Direitos Digitais do Instituto de Defesa de Consumidores (Idec), Julia Abad, avalia que a plataforma deixa a proteção das vítimas em segundo lugar.
“A gente tá acompanhando a escolha de manter algo que tem movimentado a rede no lugar de priorizar a dignidade de meninas, mulheres que estavam e supostamente continuam sendo expostas de forma sexualizada. Então o que a gente deve questionar, na verdade, é até que ponto uma empresa está disposta a limitar as funcionalidades para proteger pessoas. A gente acredita que a solução esteja mais num campo empresarial do que num campo de ajuste tecnológico.”
O Idec já pediu a suspensão do Grok no Brasil pelo uso indevido de dados pessoais e sensíveis de crianças e adolescentes para produção de imagens sexualizadas. Julia lembra que o impacto dessa situação pode ter reflexos na vida inteira da vítima.
“A criação de imagens falsas com o conteúdo sexual gera não só humilhação, mas medo, em certos casos, isolamento e danos à saúde mental inimagináveis. Inclusive, quando a gente vai tratar de meninas e mulheres, isso reforça violência de gênero e desigualdade.”
Ouça também 🎧: MPF diz que medidas para evitar que Grok gere imagens ilegais são ineficazes
O Ministério Público Federal, a Agência Nacional de Proteção de Dados e a Secretaria Nacional do Consumidor questionaram o X sobre o que tem feito barrar a produção dessas imagens. Mas consideraram as ações insuficientes e determinaram a adoção de medidas urgentes para interromper o problema.
A especialista do Idec defende a suspensão do Grok em caso de desobediência.
“Isso mostra que por um lado, o Estado está atento e disposto a agir, mas por outro a gente tem um problema de com quem estamos tentando dialogar. O próximo passo é aguardar os relatórios e verificar se a empresa cumpriu o que foi exigido, o que conforme estamos acompanhando ainda não aconteceu. E caso isso não aconteça, as autoridades deverão sim considerar a possibilidade de suspender o Grok até que tudo que seja exigido, seja cumprido em favor do direito de mulheres, crianças e adolescentes.”
Nós tentamos um posicionamento da plataforma X sobre essas determinações, mas não tivemos resposta. O X fechou todo o escritório no Brasil e não tem uma assessoria de comunicação no país.
2:22
