ChatGPT ajudou atiradores em massa, alega processo na Flórida

Estado da Flórida alega que gestão de Sam Altman tem sido “dolosa e imprudente” (imagem: Vitor Pádua/Tecnoblog)

O estado da Flórida abriu um processo judicial contra a OpenAI e o CEO, Sam Altman, nessa segunda-feira (01/06). A denúncia acusa a desenvolvedora do ChatGPT de priorizar o crescimento financeiro e não a segurança dos usuários. Segundo o documento de 83 páginas, a liderança da empresa demonstrou um “total desrespeito pelo risco à vida humana”.

A ação judicial cita incidentes extremos ocorridos na região. O documento oficial menciona o suposto uso do ChatGPT para o planejamento de um massacre na Universidade Estadual da Flórida, em abril de 2025, e conecta o uso do chatbot aos assassinatos de dois estudantes da Universidade do Sul da Flórida no mesmo mês.

Com a medida, a Flórida se tornou o primeiro estado norte-americano a processar a gigante da IA por questões de segurança pública e proteção ao consumidor. As informações sobre o caso foram publicadas pela NBC News.

Qual o motivo do processo?

Denúncia diz que chatbot simula empatia e facilita o desenvolvimento de dependência (imagem: Unsplash/Jonathan Kemper)

A Procuradoria-Geral da Flórida argumenta que a “introdução negligente” do ChatGPT no mercado gerou consequências trágicas. O texto da denúncia aponta a ferramenta como um fator que contribuiu para o aumento das taxas de homicídios e suicídios.

O órgão alega que a plataforma foi programada para simular compaixão humana, uma característica que facilita o desenvolvimento de dependência, afetando especialmente os menores de idade. Também afirma que essa relação de confiança e dependência criada pela IA permite que a OpenAI colete dados sensíveis de crianças e adolescentes sem supervisão parental.

Justiça acusa OpenAI de 10 crimes

O governo estadual dividiu as infrações da OpenAI em dez crimes. A lista apresentada ao tribunal abrange:

• quatro acusações de práticas comerciais enganosas e desleais;
• duas acusações de negligência;
• duas acusações por violação das leis de responsabilidade por produtos defeituosos;
• uma por declaração fraudulenta;
• e uma infração por perturbação da ordem pública.

Como medida de reparação, o estado da Flórida exige a aplicação de sanções rigorosas. A Procuradoria solicitou ordens judiciais que obriguem a companhia a restringir imediatamente a coleta de dados de usuários menores de idade.

A Justiça também foi acionada para proibir a OpenAI de omitir os riscos ligados aos seus modelos de linguagem. A intenção da ação também é responsabilizar Sam Altman pessoalmente pelos danos causados, classificando sua gestão como dolosa e imprudente.

O que diz a OpenAI?

Em nota à Variety, a OpenAI se defendeu das acusações. Um porta-voz da empresa classificou a inteligência artificial como uma “tecnologia nova e poderosa” e reconheceu abertamente a necessidade de criar medidas de segurança para o público infantojuvenil, destacando os recursos de moderação que a companhia já oferece em seus serviços.

Sobre as fatalidades citadas no processo, o representante destacou que apontar para os esforços de segurança não trará vidas de volta, mas reiterou o compromisso de desenvolver a tecnologia de forma responsável.

A OpenAI mantém o posicionamento de que seus produtos são projetados para serem seguros para todos e ressaltou que implementou novas barreiras de proteção em novembro passado.

ChatGPT ajudou atiradores em massa, alega processo na Flórida