O estado da Flórida, nos Estados Unidos, entrou com uma ação judicial contra a OpenAI, empresa responsável pelo ChatGPT, e contra seu presidente executivo, Sam Altman, acusando a companhia de ter lançado o chatbot de inteligência artificial ignorando alertas de segurança e priorizando o lucro em detrimento da proteção de crianças e adolescentes. O processo, anunciado na terça-feira (2/6), marca a primeira vez que um estado americano processa a OpenAI, o que pode abrir precedentes jurídicos relevantes para a regulamentação da inteligência artificial em escala global.
A ação foi movida pelo procurador-geral da Flórida, James Uthmeier, e lista uma série de acusações graves contra a empresa. Entre elas, está a alegação de que o ChatGPT forneceu orientações a pessoas que posteriormente cometeram atos de violência, incluindo um atentado a tiros ocorrido no ano passado na Universidade Estadual da Flórida, em Tallahassee. O processo também sustenta que a ferramenta teria dado instruções a crianças com tendências suicidas e causado dependência comportamental e danos cognitivos em usuários jovens.
Uthmeier afirmou que a OpenAI teve conhecimento de riscos associados ao seu produto tanto por meio de alertas internos quanto externos, mas optou por segui-los adiante e enganar os usuários sobre a verdadeira natureza e os perigos do ChatGPT. Segundo o procurador, a empresa colocou crianças em grande risco e permitiu que um produto perigoso chegasse a milhões de pessoas.
A OpenAI, por sua vez, rebateu as acusações. Em nota, a empresa afirmou que seus modelos de inteligência artificial são treinados para recusar solicitações que possam viabilizar de forma significativa atos de violência. A companhia disse ainda que orienta seus sistemas a incentivar usuários em situação de vulnerabilidade a buscar apoio profissional, incluindo serviços de saúde mental.
Além disso, a OpenAI declarou ter cooperado com as autoridades policiais nos casos citados pelo processo. A empresa informou que adota o procedimento de notificar as forças de segurança sempre que as conversas com o chatbot sugerem um risco iminente e crível de danos a terceiros. Para avaliar situações limítrofes, a OpenAI conta com o apoio de especialistas em saúde mental.
O processo da Flórida se insere em um cenário crescente de pressão regulatória sobre empresas de inteligência artificial. Governos de diferentes países têm debatido como estabelecer regras claras para o desenvolvimento e a comercialização de modelos de linguagem, ferramentas capazes de gerar texto, imagens e outros conteúdos de forma automatizada a partir de comandos em linguagem natural. O ChatGPT, lançado em novembro de 2022, rapidamente se tornou o chatbot mais utilizado do mundo, alcançando centenas de milhões de usuários.
A ação judicial levanta questões centrais sobre a responsabilidade das empresas de tecnologia pelos danos causados por seus produtos de inteligência artificial. Até agora, não existe nos Estados Unidos uma legislação federal específica que regulamente de forma abrangente o setor, o que torna os processos estaduais um importante campo de definição jurídica. Caso o estado da Flórida obtenha êxito, a decisão pode influenciar ações semelhantes em outras jurisdições.
Uma das questões mais sensíveis envolve o uso de ferramentas de inteligência artificial por crianças e adolescentes. O processo destaca que o ChatGPT pode ser acessado sem verificações rigorosas de idade, o que permitiria que menores interagissem com o modelo sem a supervisão de adultos. Especialistas em segurança digital já haviam alertado sobre os riscos dessa exposição, incluindo a possibilidade de os sistemas fornecerem informações inadequadas ou perigosas.
O caso também chama atenção para o suposto papel do ChatGPT em episódios de violência real. A referência ao ataque na Universidade Estadual da Flórida indica que as autoridades estão investigando a relação entre as interações dos agressores com a ferramenta e a preparação dos crimes. Essa conexão entre inteligência artificial e violência no mundo físico é um dos aspectos mais inéditos e desafiadores do debate regulatório atual.
Sam Altman, que é o principal executivo da OpenAI e uma das figuras mais influentes do setor de inteligência artificial, é citado diretamente no processo. A inclusão de um dirigente corporativo como réu em uma ação desse tipo sinaliza que os procuradores buscam responsabilizar não apenas a pessoa jurídica, mas também os líderes que tomaram decisões estratégicas sobre o lançamento e a operação do produto.
A OpenAI já havia enfrentado processos relacionados a direitos autorais e uso indevido de dados, mas a ação da Flórida representa uma escalada significativa ao tratar de danos diretos à segurança física e mental de usuários, especialmente jovens. A empresa, fundada em 2015 e sediada em São Francisco, é uma das mais valiosas do setor de inteligência artificial e mantém parcerias com a Microsoft, que investiu bilhões de dólares em sua operação.
O desfecho desse processo pode redefinir os limites legais da atuação das empresas de inteligência artificial nos Estados Unidos e, por extensão, no resto do mundo. Enquanto a justiça não se pronuncia, o caso já contribui para intensificar a pressão por marcos regulatórios mais robustos e por mecanismos de proteção efetivos para os usuários de ferramentas baseadas em modelos de linguagem.
