Reprodução/ Wikimedia CommonsGrok, inteligência Artificial de Elon Musk
A Comissão Europeia anunciou nesta segunda-feira (26) a abertura de uma investigação contra o chatbot de inteligência artificial (IA) Grok, do bilionário Elon Musk, por suspeita de disseminação de conteúdo ilegal, como geração de imagens falsas sexualizadas e sem consentimento, no território da União Europeia (UE).
O braço executivo da UE comunicou que avaliará se a rede social X examinou adequadamente e mitigou os riscos associados à implementação das funções do Grok na União Europeia, incluindo a possível distribuição de conteúdo ilegal, como imagens manipuladas sexualmente explícitas que podem, até mesmo, ser consideradas material de abuso sexual infantil.
Mesmo antes de iniciar a investigação, a Comissão Europeia já havia ordenado à rede social X que conservasse todos os dados sobre pedidos e produções do Grok até o final de 2026.
O X declarou em 14 de janeiro que a empresa xAI havia restringido a edição de imagens para usuários do Grok e impedido usuários, com base em sua localização, de gerar as imagens em jurisdições onde isso é ilegal. A declaração, que não satisfez a Comissão Europeia, não identificou os países afetados.
A abertura da investigação ocorreu em plena polêmica devido às imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas, e que levaram o governo francês a processar o X nos tribunais.
Milhares de imagens geradas pela IA de Musk e publicadas no início deste mês por usuários da tecnologia mostram mulheres e meninas em trajes de banho, seminuas ou em poses sexualizadas. O conteúdo foi produzido sem consentimento das vítimas.
Segundo uma estimativa da ONG britânica CCDH, dentre as imagens publicadas, 23 mil eram de crianças.
X pode ser multado
A Comissão Europeia avalia que, se as alegações forem comprovadas, o X estaria infringindo vários artigos da Lei de Serviços Digitais (DSA, na sigla em inglês) à qual está sujeito ao operar na União Europeia, inclusive sobre a avaliação e mitigação de riscos sistêmicos para os cidadãos europeus.
A Lei de Serviços Digitais, aprovada pelos 27 países-membros da UE, inclui medidas como a obrigação de as plataformas eliminarem conteúdos julgados ilegais e a proteção de menores em relação à publicidade personalizada. As empresas podem ser multadas em até 6% do seu faturamento anual global por violações da DSA.
A Comissão Europeia já multou o X em dezembro de 2025 em 120 milhões de euros por descumprir obrigações de transparência previstas na mesma lei devido ao “design enganoso” de seu selo de verificação azulà falta de transparência de seu arquivo publicitário e à falta de acesso a dados públicos para pesquisadores.
Em paralelo, a Comissão também prorrogou nesta segunda-feira sua investigação iniciada em 2023 sobre se o X cumpre com as obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo.
A plataforma também já está na mira da UE por suspeita de negligenciar seu dever, previsto na DSA, de agir contra a propagação de conteúdo ilegal no X, como imagens sexualizadas, pornografia infantil, ameaças de morte e símbolos nazistas.
as/ra (Efe, Reuters, AFP)
Fonte: TECNOLOGIA.IG.COM.BR