A Flórida se tornou o primeiro estado dos EUA a processar a OpenAI pela segurança e design do ChatGPT, somando-se a uma enorme onda de ações judiciais existentes contra a empresa.
De acordo com o processo (PDF) apresentado na segunda-feira pelo procurador-geral da Flórida, James Uthmeier, a OpenAI construiu uma “rede de engano e exploração de usuários, incluindo os moradores da Flórida”. Flórida alega a empresa violou leis estatais contra práticas comerciais enganosas ou injustas para aumentar o seu próprio valor de mercado – e lucros – em detrimento da segurança dos seus utilizadores.
A Flórida não acredita na promessa da OpenAI de construir com segurança, como mostra o início da reclamação.
O processo estatal contra a OpenAI e o seu CEO, Sam Altman, diz que eles ignoraram deliberadamente os avisos, tanto de dentro como de fora da empresa, sobre os muitos riscos que a IA representa para os seus utilizadores. A Flórida alega que a OpenAI mentiu sobre a confiabilidade e adequação do ChatGPT para crianças e promove o uso prolongado que leva ao declínio cognitivo dos usuários.
(Divulgação: Ziff Davis, empresa controladora da CNET, em 2025 entrou com uma ação judicial contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)
O processo ocorre no momento em que a Flórida conduz uma investigação criminal para saber se o ChatGPT desempenhou um papel na decisão do ano passado. tiroteio em massa na Florida State University que matou duas pessoas e feriu outras seis. Nesse caso, o atirador teria usado o ChatGPT para planejar o ataque, inclusive aconselhando sobre o tipo de arma, o momento do massacre e como descartar os corpos humanos.
Na época, a OpenAI disse: “O tiroteio em massa do ano passado na Florida State University foi uma tragédia, mas o ChatGPT não é responsável por este crime terrível”.
O CEO da OpenAI, Sam Altman, é citado no processo da Flórida.
Há preocupações crescentes sobre como o ChatGPT e outros chatbots podem contribuir para as ações violentas e delírios prejudiciais das pessoas. Os especialistas descobriram que chatbots como o ChatGPT podem ter dificuldade para rejeitar ideias perigosas e estar tão ansiosos para agradar que podem fornecer informações factualmente incorretas, um problema chamado bajulação.
Outra área de preocupação para legisladores e grupos de vigilância tecnológica é a coleta de dados e as práticas de privacidade da OpenAI. A reclamação da Flórida diz que o ChatGPT oferece às crianças acesso irrestrito a “informações prejudiciais” sobre transtornos alimentares e automutilação. Ao ocultar esses riscos e promover o ChatGPT como seguro, a OpenAI enganou os moradores da Flórida e o público em geral com um produto perigoso, diz a denúncia.
A OpenAI disse em um comunicado que acredita que os menores precisam de proteções significativas em relação à IA e tem trabalhado para fornecê-las aos pais e adolescentes. “Perder um filho é a tragédia mais devastadora que pode acontecer a uma família e sabemos que nenhuma palavra pode chegar perto de abordar a dor de tal perda”, disse um porta-voz da OpenAI. “Estamos empenhados em acertar.”
Controlando a IA
Embora este seja o primeiro processo liderado por um estado contra a OpenAI em torno da segurança infantil, vários governos estaduais estão tomando medidas em relação à IA. Califórnia, Illinois e Nova York criaram novas leis para controlar a forma como as empresas de IA operam.
O processo da Flórida é um caso civil, que resultaria em penalidades (dinheiro) e ordens judiciais em vez de acusações criminais. Embora ainda não esteja claro como será a penalidade financeira, Meta e Google foram recentemente condenados a pagar US$ 3 milhões depois que um júri os considerou culpados de criar aplicativos de mídia social viciantes; num caso separado, a Meta foi condenada a pagar 375 milhões de dólares por acusações de exploração infantil. Estes casos tratam das redes sociais, não da IA, mas estas estratégias jurídicas utilizadas contra as Big Tech podem fornecer um roteiro jurídico para o futuro.
Apesar da crescente reação estadual e local contra a IA, o mais novo plano de IA da administração Trump mostra que deseja que o governo federal seja responsável por estabelecer as regras em torno da tecnologia. A Casa Branca tem sido franca no seu apoio a projectos de infra-estruturas de IA, incluindo o boom de projectos de construção de centros de dados nos EUA.
Mas os especialistas alertam que o afrouxamento das regulamentações para permitir que as empresas de IA construam mais rapidamente pode ter efeitos desastrosos no ambiente, na economia e na sociedade como um todo.
