Florida processa OpenAI e Sam Altman por ocultação de riscos do ChatGPT

O procurador-geral da Florida, James Uthmeier, afirmou em conferência de imprensa que o estado é o primeiro a processar a OpenAI e Sam Altman, por suprimirem alertas internos de segurança e enganarem os utilizadores sobre os perigos do ChatGPT, "permitindo que um produto perigoso chegasse a milhões" de pessoas. A ação judicial faz referência a dois tiroteios em que os alegados atiradores terão feito perguntas ao ChatGPT enquanto planeavam os seus crimes.

A OpenAI contrapôs em comunicado que os seus modelos incentivaram repetidamente os indivíduos a procurar apoio no mundo real, incluindo de profissionais de saúde mental, e disse ter cooperado com as autoridades policiais em ambos os casos.

"O ChatGPT é uma ferramenta de utilização geral utilizada por centenas de milhões de pessoas todos os dias para fins legítimos", afirmou a OpenAI em comunicado. "Trabalhamos continuamente para reforçar as nossas medidas de segurança para detetar intenções maliciosas, limitar o uso indevido e responder adequadamente quando surgem riscos de segurança", adiantou.

Em abril, Uthmeier abriu uma investigação criminal contra a OpenAI para determinar se o ChatGPT deu conselhos a um atirador que matou duas pessoas e feriu outras seis no ano passado na Universidade Estadual da Florida.

Noutro caso, os procuradores afirmaram que o homem acusado de matar dois estudantes de doutoramento da Universidade do Sul da Florida perguntou ao ChatGPT, dias antes deles desaparecerem, o que aconteceria se um corpo humano fosse colocado num saco e atirado para um contentor do lixo.

O processo da Florida alega que a OpenAI e Altman deram prioridade à velocidade de lançamento no mercado e ao lucro comercial em detrimento da segurança dos utilizadores e ignoraram os repetidos alertas de especialistas dentro e fora da empresa.

O processo alega que a empresa lançou um produto que facilita e incentiva os danos, incluindo a automutilação e a violência, ao mesmo tempo que assegurava falsamente aos utilizadores que era seguro.

A queixa alega ainda que o ChatGPT recolhe dados de menores sem supervisão parental adequada, além de causar dependência comportamental e danos cognitivos.