Paulo Dimas: "A inteligência artificial também alucina"

A inteligência artificial (IA) está cada vez mais presente nas nossas vidas, mas crescem as preocupações com os riscos que pode representar. Paulo Dimas, CEO do Centro para a IA Responsável lembra que ainda é preciso trabalhar numa IA "em que possamos confiar". Os resultados que hoje obtemos numa pesquisa ainda têm muitas falhas: "Há muita inspiração no próprio cérebro humano na inteligência artificial. Assim como os seres humanos de vez em quando alucinam, a inteligência artificial também alucina. O termo científico é exatamente esse, [resultado]' alucinado'". 

No mês em que se celebram três anos da criação do ChatGPT, o centro promove, terça-feira, um fórum, que junta líderes nacionais e internacionais ligados à inteligência artificial, neurociência e transformação digital para um dia de debates e demonstrações de produtos desenvolvidos pelo centro.

Dimas dá alguns exemplos de áreas em que "sabemos que não podemos confiar inteiramente" na IA. É o caso da saúde - quem utiliza a IA, por exemplo, para pedir diagnósticos ou leitura de exames fica sujeito a riscos -, mas também em questões de equidade. "Sabemos que os modelos de inteligência artificial são treinados, aprendem com dados massivos e esses dados muitas vezes refletem os vieses da sociedade. Antes do ChatGPT surgir era muito frequente eu fazer uma demonstração onde escrevia 'Um homem está para CEO, assim como uma mulher está para...' e ele completava com 'secretária', porque era o reflexo dos dados que eram usados para treinar o modelo. Isto não é obviamente aceitável, nós temos de garantir que os modelos não discriminam", diz, em entrevista ao programa do Negócios no canal NOW.

Há ainda outra área que Dimas destaca como crítica: a do trabalho. "Atingimos no primeiro trimestre deste ano valores de desemprego nos Estados Unidos para jovens recém-licenciados que só são encontráveis se recuarmos ao pós-Covid. E porquê? Quando analisamos aquilo que se chamam as profissões com exposição alta à inteligência artificial - portanto, é todo um conjunto de profissões onde muitas das tarefas podem ser automatizadas -, começamos a ver que, por exemplo, escritórios de advocacia já não precisam ter tantos estagiários, startups de informática, de computação, não precisam de contratar tantos programadores júniores", descreve.

Admitindo que as empresas têm "todo um sentido de urgência" em "maximizarem a sua produtividade", o CEO do Centro para a IA Responsável alerta para os problemas que daqui podem surgir. "Está a levantar grandes discussões no meio, porque se não empregarmos estes jovens recém-licenciados, como é que estamos a formar os futuros séniores?", questiona.