Anthropic sugere pausa no desenvolvimento da inteligência artificial

A empresa norte-americana revelou, numa publicação, quinta-feira, que delega cada vez mais o desenvolvimento da inteligência artificial (IA) aos seus próprios sistemas de IA e, à medida que a capacidade computacional aumenta, aproxima-se a possibilidade da "auto-melhoria recursiva", ou seja, que ela própria conceba e desenvolva o seu sucessor.

A autoaperfeiçoamento recursivo, que "não é inevitável" e "pode chegar antes que muitas instituições estejam preparadas", pode ser benéfico para a ciência e a saúde, mas também "aumentar os riscos de os humanos perderem o controlo dos sistemas de IA", salientou.

"Se os sistemas forem capazes de criar inteiramente os seus próprios sucessores, as formas de os tornar seguros, supervisioná-los e moldar o seu comportamento tornam-se muito mais importantes", acrescentou.

A empresa acredita que "provavelmente será benéfico" abrandar o desenvolvimento da IA para poder dedicar mais tempo a abordar as suas "imensas implicações", e apelou à colaboração de empresas de todo o mundo com o seu departamento de investigação, o The Anthropic Institute, para estabelecer um quadro de referência.

"Acreditamos que seria bom para o mundo ter a opção de travar ou pausar temporariamente o desenvolvimento da IA de ponta, para permitir que as estruturas sociais e a investigação em alinhamento possam acompanhar o ritmo do avanço da tecnologia", declarou.

A Anthropic propõe ajudar a construir os sistemas que essa pausa exigiria, com formas de "verificar" se os outros realmente param para evitar favorecer um "agente mal-intencionado", e destacou que laboratórios "bem financiados" em vários países deverão "aceitar parar nas mesmas condições".

"Uma pausa credível também tem de especificar o que a desencadeia, o que a levanta e quem a arbitra", salientou.

O texto, assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, descreve, utilizando dados internos, a rapidez com que os seus modelos avançados estão a melhorar, e prevê que, no futuro, agentes como o seu Claude poderão treinar-se sozinhos.

Por exemplo, explicou que hoje mais de 80% do código que a Anthropic incorpora na sua base de código foi criado pelo Claude, quando há pouco mais de um ano, em fevereiro de 2025, o número era inferior a 10%.