ControlAI defende proibição total do desenvolvimento de superinteligência artificial em episódio do podcast Equity
A organização sem fins lucrativos ControlAI está pressionando por uma abordagem radical no debate sobre segurança em inteligência artificial: a interrupção completa do desenvolvimento de superinteligência por empresas do setor. A posição foi apresentada por Connor Leahy, pesquisador e empreendedor que assumiu o cargo de diretor executivo da entidade nos Estados Unidos, durante um episódio recente do podcast Equity, do portal TechCrunch, apresentado pela jornalista Rebecca Bellan.
De acordo com Leahy, os riscos envolvidos na criação de sistemas de inteligência artificial mais capazes do que os humanos já ultrapassaram a capacidade de serem gerenciados apenas por mecanismos de alinhamento e contenção. Ele argumenta que incidentes recentes de segurança, como a violação ocorrida no ambiente da OpenAI junto à plataforma Hugging Face, vêm evidenciando os perigos concretos de se implantar tecnologias que superam a capacidade humana de compreensão e controle.
O pesquisador explicou que o ponto sem retorno real acontece quando a inteligência artificial se torna capaz de construir inteligências artificiais ainda melhores, criando um ciclo potencialmente descontrolado de autoaperfeiçoamento. Na conversa, Leahy defendeu que acordos internacionais do tipo "confie, mas verifique" poderiam ser uma saída para o problema, e afirmou que não seria do interesse da própria China investir no desenvolvimento de superinteligência.
A ControlAI se posiciona como uma organização que busca educar legisladores e equipes governamentais sobre os chamados riscos adversariais decorrentes de tecnologias emergentes sem regulação adequada. A entidade defende que a criação de superinteligência seja tratada como uma questão de segurança nacional e internacional, comparando sua gravidade a de armas nucleares.
Durante o episódio, Leahy também contextualizou sua trajetória na área. Ele ganhou notoriedade ao conseguir reproduzir de forma independente o modelo GPT-2 da OpenAI em 2019, ainda durante sua graduação. Segundo o pesquisador, mesmo tendo conseguido montar o sistema, ele percebeu que não conseguia compreender plenamente o que havia construído, o que marcou o início de sua preocupação com os riscos da área.
A entrevista com Connor Leahy está disponível na íntegra no canal do Equity no YouTube, além de plataformas como Apple Podcasts, Overcast e Spotify. O episódio integra a cobertura contínua do TechCrunch sobre os negócios, políticas e tendências em torno da inteligência artificial, abordando os dilemas práticos e éticos que surgem à medida que os modelos de IA se tornam mais poderosos e autônomos.
