Bruxelas anuncia investigação ao Grok de Musk por imagens sexualmente explícitas manipuladas

A Comissão Europeia anunciou esta segunda-feira  uma investigação ao Grok, a ferramenta de inteligência artificial da rede social X, por disseminação de imagens sexualmente explícitas manipuladas na União Europeia (UE), incluindo conteúdos que possam constituir abuso sexual de menores.

Em comunicado hoje divulgado em Bruxelas, o executivo comunitário dá conta de uma nova investigação formal contra o X, ao abrigo da Lei dos Serviços Digitais, para "avaliar se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok [...] na UE".

"Estes riscos incluem a disseminação de conteúdos ilegais na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam constituir material de abuso sexual de menores", revela a instituição, acusando o X de "expor os cidadãos da União a danos graves".

O executivo comunitário vai, nesta investigação de caráter prioritário, analisar "mais aprofundadamente se a X cumpre, com o Grok, as suas obrigações" ao abrigo da Lei dos Serviços Digitais, nomeadamente se evita a disseminação de conteúdos ilegais, os efeitos negativos relacionados com a violência baseada no género e as consequências negativas graves e ainda se comunica a Bruxelas as devidas "avaliações de riscos".

Em causa está a introdução de uma funcionalidade que permite conteúdos manipulados ('deepfake').

Também hoje a Comissão Europeia alargou uma outra investigação em curso, iniciada em dezembro de 2023, sobre o cumprimento, por parte do X, das suas obrigações de gestão de riscos associadas aos seus sistemas de recomendação.

Bruxelas quer verificar "o impacto da recente mudança anunciada para um sistema de recomendação baseado no Grok".

Caso todas estas acusações sejam comprovadas nas investigações, podem estar em causa várias infrações da lei comunitária, que podem resultar em pesadas multas.

A Comissão Europeia adianta que vai continuar a recolher provas, nomeadamente através do envio de pedidos adicionais de informação, da realização de entrevistas ou inspeções, podendo ainda impor medidas provisórias caso não sejam efetuados ajustamentos significativos ao serviço X.

O Grok é uma ferramenta de inteligência artificial desenvolvida desde 2024 pelo X, a rede social do empresário norte-americano Elon Musk, que permite aos utilizadores gerir texto e imagens e fornecer informação contextual às publicações dos utilizadores.

A UE tornou-se na primeira jurisdição do mundo com regras para plataformas digitais, que passam a estar obrigadas a remover conteúdos ilegais e nocivos, no âmbito da nova Lei dos Serviços Digitais.

A lei foi criada para proteger os direitos fundamentais dos utilizadores 'online' na UE e tornou-se numa legislação inédita para o espaço digital que responsabiliza as plataformas por conteúdos prejudiciais, nomeadamente desinformação.

As tecnológicas que não cumprem podem ter coimas proporcionais à sua dimensão.

Estas regras apertadas para as tecnológicas têm gerado bastante tensão entre Bruxelas e Washington, dado o apoio da administração norte-americana às suas grandes plataformas.

Os Estados Unidos consideram que as recentes leis europeias criam barreiras não tarifárias que penalizam as suas gigantes tecnológicas, setor que integra marcas como o Google, a Amazon ou a Meta.

Apesar das ameaças norte-americanas, a Comissão Europeia já avançou com multas.