CEOs da OpenAI e da Anthropic defendem cooperação global para reduzir riscos da inteligência artificial
Os principais executivos das empresas OpenAI e Anthropic, Sam Altman e Dario Amodei, defenderam nesta quarta-feira (23) uma maior cooperação internacional para lidar com os riscos do avanço da inteligência artificial. A declaração foi feita durante uma reunião do Conselho de Segurança das Nações Unidas, realizada em meio à Assembleia Geral da ONU, e chamou atenção por reunir dois CEOs de empresas concorrentes no mesmo posicionamento.
A participação dos dois executivos ocorreu um dia após o presidente dos Estados Unidos, Donald Trump, rejeitar publicamente a criação de qualquer mecanismo internacional para regular a inteligência artificial. Durante discurso na Assembleia Geral, Trump classificou propostas desse tipo como um "esquema globalista" e afirmou que os Estados Unidos não pretendem frear o crescimento da tecnologia, que descreveu como algo que será maior do que a Revolução Industrial. O presidente também defendeu que o país mantenha a dianteira no setor e anunciou que o governo passou a utilizar o termo "superinteligência" em documentos oficiais no lugar de "inteligência artificial".
Diante desse contexto, Altman adotou posição distinta ao defender que a inteligência artificial seja tratada como uma questão que exige cooperação entre nações, mesmo entre países que competem entre si. O CEO da OpenAI argumentou que tecnologias com capacidade de produzir impactos significativos justificam uma atuação conjunta entre governos e empresas. Já Amodei reforçou o compromisso de sua empresa em reduzir o ritmo de desenvolvimento sempre que necessário para garantir a segurança de cada nova tecnologia liberada ao público, conforme afirmou em pronunciamento por vídeo ao Conselho de Segurança.
A aproximação entre os dois executivos é significativa porque OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados de IA, conhecidos como modelos de fronteira, termo que designa os sistemas mais poderosos e com maior potencial de impacto atualmente em desenvolvimento. No início de setembro, Amodei havia publicado um texto defendendo que a indústria desacelere o ritmo de criação desses modelos, argumentando que o avanço das capacidades dos sistemas pode superar a capacidade das empresas e dos governos de compreender e controlar seus riscos. A proposta do CEO da Anthropic envolve três frentes principais: permitir que avaliadores independentes tenham acesso aos sistemas das empresas para verificar suas práticas de segurança; ampliar a coordenação entre companhias que desenvolvem modelos de fronteira; e estabelecer cooperação internacional para reduzir riscos associados à tecnologia. Altman manifestou apoio público à ideia de estabelecer um ritmo mais controlado para o desenvolvimento da chamada IA de fronteira, o que representa uma convergência rara entre as duas companhias.
A sessão do Conselho de Segurança também contou com a participação de representantes da Hugging Face, incluindo o cofundador Clément Delangue, além de especialistas ligados ao painel científico independente da ONU sobre inteligência artificial. O debate abordou temas como o uso malicioso da IA e a possibilidade de perda de controle sobre sistemas cada vez mais avançados, em um momento em que governos e empresas tentam definir como lidar com sistemas capazes de executar tarefas cada vez mais complexas.
O cenário envolve ainda a competição tecnológica entre Estados Unidos e China. A busca por mecanismos de segurança precisa ser conciliada com a preocupação de que regras excessivamente restritivas possam afetar o desenvolvimento e a competitividade das empresas. A própria OpenAI passou a defender a criação de padrões internacionais para avaliar capacidades e riscos de sistemas avançados, além de uma maior cooperação entre Washington e Pequim em questões relacionadas à segurança da inteligência artificial.
As discussões ocorrem em um momento de expansão dos negócios de OpenAI e Anthropic, que se preparam para possíveis ofertas públicas de ações, embora nenhuma das duas empresas tenha divulgado oficialmente uma data para um eventual IPO, termo usado para designar a abertura de capital na bolsa de valores. Essa conjuntura cria uma tensão adicional: ao mesmo tempo em que seus executivos defendem maior cautela no desenvolvimento da IA, as empresas estão submetidas a fortes pressões comerciais para continuar ampliando a capacidade de seus modelos. Amodei, porém, afirma que desacelerar não significa interromper o desenvolvimento da tecnologia, e sim criar mecanismos de avaliação e coordenação que acompanhem o ritmo de evolução dos sistemas.
Ao final de sua fala na ONU, Altman resumiu o argumento central das empresas ao afirmar que a cooperação internacional pode ser necessária mesmo entre países que permanecem competidores. Segundo ele, ao longo da história houve momentos em que nações rivais se uniram por interesses compartilhados diante de novas tecnologias poderosas, e a inteligência artificial deveria representar mais um desses momentos.
