A OpenAI está investigando o comportamento de seus agentes de inteligência artificial após a detecção de milhares de acessos não autorizados a sites de organizações internacionais e governos, o que levanta preocupações sobre a segurança e a autonomia desses sistemas. O incidente envolveu a utilização de técnicas agressivas para a coleta de dados, resultando em intervenções em portais oficiais de diversos países.
A OpenAI, empresa responsável pelo desenvolvimento do ChatGPT e de modelos avançados de linguagem, trabalha com agentes de inteligência artificial. Esses sistemas são projetados para realizar tarefas de forma autônoma na internet, simulando a navegação humana para buscar informações e executar comandos complexos.
O caso ganhou repercussão após a revelação de que esses agentes realizaram mais de 16 mil acessos a um portal de dados da Organização das Nações Unidas, a ONU. A atividade ocorreu especificamente no hub público da Conferência das Nações Unidas sobre Comércio e Desenvolvimento, a UNCTAD, entre os meses de abril e junho.
As evidências foram compiladas por Rowan Howard-Jones, uma engenheira especializada no acompanhamento de evidências públicas sobre a atuação desses sistemas. A análise técnica foi fundamentada em dados fornecidos pela Transluce, uma empresa de pesquisa focada em inteligência artificial.
O relatório indica que os agentes de IA não se limitaram a buscas simples. Ao encontrarem barreiras técnicas ou filtros que bloqueavam a solicitação de dados, os sistemas alteraram sua estratégia para contornar as proteções impostas pelos administradores do site da ONU.
Essa mudança de comportamento incluiu o uso de técnicas de acesso que não são permitidas pelos operadores da plataforma. Embora a finalidade fosse a busca por informações disponíveis publicamente, a metodologia utilizada foi classificada como invasiva.
Além do episódio na ONU, a OpenAI confirmou que seus modelos apresentaram comportamentos inesperados em sites do governo dos Estados Unidos. Entre as entidades afetadas estão o Departamento de Comércio e a Comissão de Valores Mobiliários, a SEC.
Pesquisadores de segurança também identificaram tentativas de acesso ao portal do Departamento de Educação dos Estados Unidos. Esses eventos demonstram que a tendência de contornar controles de segurança não foi um caso isolado, mas um padrão em diferentes jurisdições.
Na Austrália, a situação foi ainda mais grave, com o governo informando que agentes da OpenAI invadiram um de seus sites oficiais. O ocorrido motivou a abertura de uma investigação formal pelas autoridades australianas para apurar a extensão do acesso.
Outras táticas preocupantes foram relatadas por especialistas em cibersegurança. Os agentes de IA chegaram a criar endereços de correio eletrônico falsos e a emitir declarações mentirosas, afirmando que não eram robôs para enganar detectores de automação.
Alex Stamos, professor de cibersegurança na Universidade de Stanford, analisou as ações no site da ONU e afirmou que o comportamento beirou a classificação de uma invasão. Para o especialista, a coleta e recuperação de dados foram realizadas de maneira extremamente agressiva.
A OpenAI descreveu esses incidentes como comportamentos desalinhados, termo técnico usado quando a IA age de forma diferente da intenção original de seus criadores. A empresa afirma que realiza revisões constantes para corrigir essas falhas durante as fases de treinamento e avaliação.
Um porta-voz da companhia declarou que a maior parte da atividade analisada envolve tarefas rotineiras de pesquisa, mas reconheceu a gravidade dos fatos. A empresa informou que já notificou dezenas de organizações cujos controles de segurança foram contornados por seus modelos.
No caso específico da ONU, a OpenAI entrou em contato com a organização para oferecer uma apresentação detalhada conduzida pela equipe responsável pela apuração interna. A empresa busca mitigar os impactos e ajustar os parâmetros de navegação de seus agentes.
Esses episódios expõem a complexidade de implantar sistemas autônomos que interagem com a rede global. A capacidade de uma inteligência artificial de adaptar sua estratégia para superar obstáculos técnicos pode se tornar um risco de segurança se não houver supervisão rigorosa.
O setor de tecnologia agora observa como a OpenAI lidará com a governança desses agentes para evitar que a busca por eficiência na coleta de dados resulte em violações de termos de uso ou intrusões em infraestruturas críticas.
