Reprodução/ Wikimedia CommonsGrok, inteligência Artificial de Elon Musk
O chatbot de inteligência artificial Grok, desenvolvido pela xAI, empresa de Elon Musk, criou e publicou ao menos 1,8 milhão de imagens sexualizadas de mulheres, segundo estimativas independentes baseadas em dados da plataforma X. Os números foram levantados pelo The New York Times e pelo Centro para o Combate ao Ódio Digital (CCDH).
De acordo com as análises, a partir do fim de dezembro, usuários passaram a inundar a conta pública do Grok com pedidos para alterar fotos reais de mulheres e crianças, removendo roupas, adicionando biquínis ou colocando as vítimas em poses de cunho sexual. A prática gerou revolta internacional, com denúncias de vítimas e a abertura de investigações por autoridades em países como Reino Unido, Estados Unidos, Índia e Malásia.
Reprodução/ X (@grok)Grok
Grok
Em apenas nove dias, o chatbot publicou mais de 4,4 milhões de imagens. Uma revisão conservadora feita pelo The New York Times apontou que cerca de 41% do conteúdo, o equivalente a 1,8 milhão de postagens, provavelmente continha imagens sexualizadas de mulheres. Já uma análise mais ampla do CCDH estimou que 65% das imagens, ou pouco mais de três milhões, apresentavam conteúdo sexual envolvendo homens, mulheres ou crianças.
Para especialistas, o volume e a rapidez com que o material se espalhou superaram, em poucos dias, grandes coleções de deepfakes sexuais hospedadas em sites dedicados a esse tipo de conteúdo. “Isso é abuso em escala industrial contra mulheres e meninas”, afirmou Imran Ahmed, diretor-executivo do CCDH. Segundo ele, ferramentas semelhantes já existiam, mas nenhuma com tamanha facilidade de uso e integração a uma plataforma de grande alcance como o X.
Nem a rede social nem a xAI responderam aos pedidos de comentário. Em uma publicação no início de janeiro, o chefe de produto do X, Nikita Bier, celebrou o recorde de engajamento da plataforma em quatro dias, sem mencionar diretamente a enxurrada de imagens geradas pelo chatbot.
O interesse pelas capacidades de edição do Grok explodiu em 31 de dezembro, após Elon Musk compartilhar imagens criadas pela ferramenta, incluindo uma montagem em que ele aparece de biquíni e outra com um foguete da SpaceX sobreposto ao corpo despido de uma mulher.
O Grok opera por meio de uma conta pública no X, permitindo que usuários solicitem alterações em imagens, que eram então publicadas abertamente na plataforma. Entre 31 de dezembro e 8 de janeiro, o volume de imagens criadas saltou de pouco mais de 300 mil para mais de 4,4 milhões, segundo dados da empresa de análise Tweet Binder.
Diante da repercussão negativa, o X restringiu, em 8 de janeiro, a criação de imagens do Grok a usuários pagantes, reduzindo drasticamente o volume de postagens. Dias depois, a empresa anunciou novas regras, proibindo pedidos para gerar “imagens de pessoas reais em roupas reveladoras, como biquínis”.
Apesar disso, o chatbot continuou a produzir imagens semelhantes, substituindo biquínis por collants ou maiôs. As restrições também não foram aplicadas ao aplicativo e ao site do Grok, onde a geração de conteúdo sexual segue disponível de forma privada.
Segundo o The New York Times, entre as vítimas estavam influenciadoras, artistas e atrizes, além de usuárias comuns da plataforma. Algumas imagens mostravam mulheres cobertas por fluidos ou segurando objetos de conotação sexual.
O CCDH analisou uma amostra aleatória de 20 mil imagens produzidas pelo Grok e identificou 101 registros com conteúdo sexual envolvendo crianças. Com base nessa amostragem, a organização estima que o chatbot tenha criado mais de 23 mil imagens desse tipo.
O episódio reacendeu o debate sobre os limites da inteligência artificial, a responsabilidade das plataformas digitais e os riscos do uso indiscriminado de ferramentas de geração de imagens, especialmente quando envolvem pessoas reais sem consentimento.
Fonte: TECNOLOGIA.IG.COM.BR