Num frente a frente entre um olhar crítico e uma visão mais entusiasta sobre a inteligência artificial, Adolfo Mesquita Nunes, advogado e sócio da Pérez-Llorca, e Stephan de Moraes, managing general partner, Indico Capital Partners procuraram convencer a plateia de que tinham razão. O público votou antes e depois do debate, permitindo perceber se os argumentos apresentados alteraram a perceção inicial sobre a inteligência artificial (IA) enquanto ameaça. A moderação esteve a cargo de Helena Garrido, jornalista.

O palco da Grande Conferência Negócios Sustentabilidade 20|30 estava armado para um duelo entre pessimistas e otimistas. À medida que os argumentos se sucederam, ficou claro que o verdadeiro tema era mais incómodo e se prendia com a erosão silenciosa da soberania - a dos Estados e de cada um de nós.

Adolfo Mesquita Nunes quis desde o início afastar o espantalho do tecno-pessimismo, lembrando que é “entusiasta” e usa a inteligência artificial “todos os dias”. “A dimensão da ameaça será proporcional à delegação de poder, de conhecimento, de soberania e de autonomia que delegarmos na IA”, argumentou o ex-deputado.

Para ilustrar, evocou o episódio recente em que a Anthropic desafiou o Departamento de Defesa dos Estados Unidos, recusando que os seus sistemas permitissem que armas disparassem sem intervenção humana. “A minha reação foi de satisfação, mas de três segundos. O que isto significa é que, numa matéria de guerra e de paz, quem manda é uma empresa privada”, criticou.

O problema, disse, é que “estamos todos a aceitar com aparente calma que nós, eleitores, já não mandamos absolutamente nada”.

Mesquita Nunes, que recentemente lançou o livro “Algoritmocracia”, exemplificou citando o Regulamento Europeu sobre Inteligência Artificial, alterado sob pressão de Washington, e a intenção da China de bloquear a compra de uma empresa de agentes de IA por razões de “interesse soberano”.

“Andamos com o Google Maps e nem questionamos. Delegamos”, continuou, explicando que quando essa delegação chega à justiça - como num acórdão do Tribunal da Relação repleto de “alucinações” geradas por IA - a pergunta torna-se urgente. “Quem são as pessoas que fazem esses sistemas e estão sujeitas aos mesmos impedimentos que um juiz?”

Democracias ainda mandam

Stephan de Moraes não negou os riscos, mas recusou a sua centralidade e inevitabilidade. “A questão não é se há ameaças. Todas as grandes transformações as comportam. A questão é se os benefícios são maiores”, disse.

“Estamos a falar de algo equivalente ou até mais profundo do que a descoberta da luz”, argumentou, sublinhando a importância da tecnologia na democratização do conhecimento. “Uma pessoa com menos conhecimento passa de repente a ser tão inteligente como todas as outras. É incrível a oportunidade que está à frente da vasta maioria da população”.

Quanto ao caso da Anthropic, Stephan de Moraes inverteu a leitura e defendeu que o problema foi que “o Estado queria poder mandar no algoritmo e não o contrário”, o que prova que existem contrapoderes eficazes. “O povo ainda manda, e as democracias também”, afirmou. O investidor apontou a ascensão da Anthropic em detrimento da OpenAI como exemplo de que o mercado regula, e o futuro como razão para otimismo, porque reserva novos materiais, novas fontes de energia, medicamentos e longevidade. “Embora exista, o risco é largamente compensado pelas oportunidades.”, afiança.

Da plateia, emergiram provocações certeiras, com um dos presentes a comparar a IA a uma faca que pode preparar um jantar ou ser usada como arma. Outro dos participantes desafiou Adolfo Mesquita Nunes com a história, lembrando que as companhias das Índias Orientais eram impérios privados com exércitos próprios, e o mundo não acabou. Haverá mesmo algo de radicalmente novo agora, questionou.

“É a primeira vez na Idade Moderna que o grosso da inovação e da defesa não está no Estado, mas em empresas privadas”, respondeu o advogado, que reiterou que à medida que delegamos o pensamento na IA, perdemos a capacidade de a supervisionar. “Se perdermos o espírito crítico, então nem sequer a supervisão humana conseguiremos exercer”. “Concordo que há ameaças, mas estou convencido de que as instâncias democráticas tratarão de as minorar”, contrapôs Stephan de Moraes.

No final, repetida a votação do início do debate, que perguntava ao público presente se considerava a IA como ameaça, as respostas alteraram-se radicalmente. Se ao início a maioria considerava que não, após o debate a opinião geral passou a ser que sim, a tecnologia é uma ameaça.