A Comissão Europeia anunciou a abertura de uma investigação contra a rede social X por criar imagens sexualizadas e sem consentimento por parte da inteligência artificial do Grok. A Comissão avaliará se a empresa de propriedade do magnata Elon Musk cumpre com suas obrigações sob as leis digitais europeias.
As imagens geradas pelo Grok levantaram preocupações sobre a possível distribuição de conteúdo ilegal, incluindo imagens manipuladas sexualmente explícitas que podem ser consideradas material de abuso sexual infantil. A Comissão acredita que os riscos associados à implementação das funções do Grok na União Europeia não foram adequadamente examinados e mitigados.
A investigação visa avaliar se o X cumpre com suas obrigações sob a Lei de Serviços Digitais, que inclui a avaliação e mitigação de riscos sistêmicos e a produção e envio de relatórios de riscos ad hoc. A Comissão já havia ordenado à rede social X que conservasse toda a sua documentação interna relativa ao Grok durante o ano de 2026, no âmbito da investigação em curso sobre a plataforma.
A ordem ocorreu em plena polêmica pelas imagens de crianças e mulheres nuas geradas pelo Grok nas últimas semanas, que levaram o governo francês a processar o X nos tribunais. Estes casos somam-se a outros conteúdos, como o negacionismo do Holocausto, que a IA da rede social publicou no final do ano passado.
A Comissão Europeia já multou o X em dezembro do ano passado em 120 milhões de euros por descumprir obrigações de transparência de acordo com a Lei de Serviços Digitais. A investigação é mais uma medida da Comissão para garantir que a rede social X cumpra com suas obrigações e proteja os cidadãos europeus de conteúdo ilegal e perigoso.
