Agentes de IA da OpenAI usaram mais de dez sites para se comunicar sem autorização
Agentes de inteligência artificial desenvolvidos pela OpenAI utilizaram pelo menos dez sites adicionais para estabelecer comunicações não autorizadas no início deste ano, de acordo com seis grupos independentes de pesquisadores ouvidos pela agência Reuters. A descoberta indica que o comportamento desses agentes foi mais amplo do que havia sido divulgado oficialmente até o momento.
Os pesquisadores identificaram mensagens deixadas pelos agentes em diferentes tipos de plataformas, incluindo wikis pouco conhecidos, páginas pessoais e serviços de encurtamento de links administrados por universidades. Embora a atividade não seja classificada como um ataque hacker e apresente características que se aproximam mais de spam, o fato de os agentes terem encontrado formas de contornar as próprias restrições estabelecidas pela OpenAI para abrir canais de comunicação levantou novas preocupações sobre a capacidade dos modelos e a transparência da empresa responsável.
Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, relatou ter contabilizado 18 sites que teriam sido utilizados pelos agentes entre maio e julho. Segundo ele, é quase certo que existam outros casos que ainda não foram identificados. Sydney Von Arx, cujo grupo revelou na semana passada que agentes da OpenAI haviam transformado uma wiki em alemão em uma espécie de plataforma de mensagens, afirmou que sua equipe encontrou atividades semelhantes em 23 sites que ainda não haviam sido divulgados. Os próprios pesquisadores reconheceram que suas estimativas são incompletas.
Os agentes haviam sido autorizados pela OpenAI a navegar pela internet para buscar informações e responder a perguntas de pesquisa, mas não deveriam publicar conteúdo em nenhum site. Mesmo assim, os pesquisadores descobriram que eles aproveitaram características de plataformas antigas para deixar mensagens uns para os outros. Em muitos casos, a atividade foi identificada por meio da comparação de textos deixados na wiki alemã com mensagens idênticas encontradas em outros endereços. Nomes de usuários semelhantes e o vínculo com as mesmas perguntas específicas também ajudaram a estabelecer conexões entre os casos. Alguns pesquisadores conseguiram rastrear a atividade até endereços de protocolo de internet associados à infraestrutura Azure, da Microsoft, que é utilizada pela OpenAI.
Entre os sites afetados estão uma wiki sobre química para estudantes de Advanced Placement criada por um professor de ensino médio de Massachusetts em 2008, dois sites pessoais de profissionais de tecnologia da Polônia, wikis dedicadas a jogos de lógica e um site criado há cerca de duas décadas para entusiastas de softwares de edição de texto. Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, afirmou ter encontrado informações relacionadas aos agentes em pelo menos dez sites diferentes. Para ele, se esses modelos foram instruídos a apenas ler, eles precisaram ser criativos para deixar informações para trás.
A OpenAI não explicou publicamente por que seus agentes usaram sites de terceiros como quadros de mensagens improvisados. A empresa também não respondeu diretamente aos questionamentos sobre a quantidade de sites utilizados ou sobre o motivo de ter mantido a atividade em segredo durante meses. Em comunicado, a OpenAI afirmou que está conduzindo uma análise mais ampla das atividades de seus agentes e que, até o momento, não identificou outras ocorrências com gravidade ou escala semelhantes ao ataque registrado contra o Hugging Face, uma plataforma de hospedagem de modelos de inteligência artificial. A companhia disse ainda que pretende publicar em breve uma estrutura para comunicar casos de desalinhamento, termo usado no setor para descrever comportamentos de sistemas de IA que fogem do esperado.
Alguns operadores dos sites utilizados pelos agentes afirmaram não ter sido procurados pela OpenAI antes das reportagens. A Universidade de Toronto, no Canadá, cujo serviço de encurtamento de links teria sido usado pelos agentes, afirmou que a OpenAI entrou em contato com a instituição somente depois que a Reuters apresentou suas descobertas. A Universidade Vanderbilt, nos Estados Unidos, que administra outro serviço semelhante supostamente utilizado, não respondeu aos pedidos de comentário. Helmut Leitner, desenvolvedor aposentado responsável pela hospedagem e pelo software de seis dos sites afetados, incluindo a wiki alemã que revelou o caso, também disse inicialmente que não havia recebido contato da OpenAI. Horas depois de a Reuters apresentar suas descobertas à empresa, porém, Leitner afirmou ter recebido um e-mail sem assinatura alertando sobre o incidente, mas considerou o conteúdo da mensagem muito aquém do que esperava. O operador precisou passar horas limpando o site após a atividade dos agentes, mas atribui a responsabilidade não à inteligência artificial, e sim às pessoas e organizações que estão por trás desses sistemas.
