Os limites legais do uso da inteligência artificial são um dos grandes desafios nas negociações do trílogo. Numa lista que hierarquiza o risco das aplicações de IA de “mínimo” até “inaceitável” (isto é, proibido), o Parlamento Europeu inseriu o uso de dados biométricos em tempo real como um dos usos proibidos, mesmo na investigação de casos extremos como terrorismo ou rapto de crianças. Até dentro do Parlamento Europeu a questão causou divisões e não gerou qualquer consenso alargado: o PPE apresentou uma emenda que definia a isenção deste tipo de crimes da proibição do uso de dados biométricos, mas acabou por ser chumbada por uma diferença de 32 votos apenas e assim manteve-se a exigência dos deputados. Do lado dos países, o desejo é de ter o poder de decisão nas mãos e essa é uma “linha vermelha” que não estão dispostos a negociar. Em cima da mesa, adianta uma fonte do Conselho ao Negócios, pode estar um pacote que acabe com as limitações que o Parlamento Europeu quer impor, mas cria mecanismos de supervisão do uso destas ferramentas.

Aplicação da lei

O Parlamento Europeu queria um acordo que permitisse a criação de um novo Gabinete de Inteligência Artificial (“AI Office”) com poderes não só administrativos e consultivos, como também relacionados com a aplicação da lei e a coordenação de investigações transfronteiriças. Novamente, os Estados não querem abdicar da independência dos órgãos nacionais e reivindicam maior controlo deste tipo de decisões. A eurodeputada Maria da Graça Carvalho explica que os Estados já aceitaram a formação deste gabinete, mas que querem ter mais responsabilidades, por exemplo, no controlo das sanções e das multas. “O Parlamento sempre a defender mais a Europa e os Estados-membros a defender as suas competências”, resume a deputada. Nas negociações do chamado “Data Act” (a regulamentação europeia sobre dados), a questão colocou-se nos mesmos termos e Maria Graça Carvalho, que participou nos dois processos, acredita que se vai conseguir “chegar a um acordo a meio caminho”, como aconteceu na altura.

Modelos de fundação

Os famosos modelos de fundação da IA, como é o caso do ChatGPT, da OpenAI, e o Bard, da Google, também estão a atrasar o acordo político. O Parlamento Europeu defende uma série de regras para estes modelos linguísticos como a “atenuação de riscos previsíveis para a saúde, segurança e direitos fundamentais” ou uma maior proteção e transparência nas fontes da informação. A questão, por ser recente, nem era contemplada na proposta inicial da Comissão Europeia e o Conselho, com receio de que a legislação coloque travões na inovação tecnológica, previa uma abordagem menos elaborada. Nesta questão, a vice-presidente da Associação Portuguesa Para a Inteligência Artificial (APPIA) percebe os receios dos países e lembra que, por exemplo, “a OpenAI já veio dizer que, se fosse demasiado regulamentado, ponderava sair da Europa”.