A inteligência artificial pode acabar com a humanidade? Especialistas respondem às principais dúvidas sobre o tema
Durante um evento recente para assinantes, a publicação MIT Technology Review promoveu uma mesa-redonda com a pergunta que tem dominado as discussões sobre tecnologia: a inteligência artificial poderia realmente nos matar? O tempo limitado da sessão, de apenas 30 minutos, não foi suficiente para responder a todas as questões enviadas pelo público. Por isso, os editores Will Douglas Heaven e Grace Huckins reuniram as principais perguntas dos participantes e se propuseram a respondê-las da melhor forma possível.
Uma das primeiras dúvidas é se as pessoas vão morrer por causa da inteligência artificial. Segundo os editores, qualquer indivíduo eventualmente morrerá, porém os impactos da IA já são reais e estão presentes. Drones equipados com inteligência artificial já provocaram mortes na Ucrânia, e ataques cibernéticos direcionados a hospitais utilizando essa tecnologia tendem a causar vítimas em um futuro próximo.
Quando se trata da possibilidade de a IA matar toda a humanidade, a avaliação dos especialistas é mais dividida. Grace Huckins reconhece que, embora as previsões mais pessimistas dos chamados "catastrofistas" tenham se mostrado surpreendentemente precisas nos últimos anos sobre as capacidades e o alinhamento da tecnologia, isso não significa necessariamente que os cenários mais extremos se concretizarão. Will Douglas Heaven, por outro lado, considera que não existem circunstâncias reais, fora da ficção científica apocalíptica, em que a IA poderia extinguir a humanidade. Ele argumenta que essas narrativas alarmistas não encontram fundamento nas realidades atuais da tecnologia nem em sua trajetória de desenvolvimento, e que o catastrofismo pode fazer as pessoas desculparem ou ignorarem problemas concretos das tecnologias existentes e das empresas que as desenvolvem.
A próxima pergunta aborda por que a IA mataria alguém. De acordo com Huckins, alguém poderia instruí-la a isso, e ela poderia obedecer. Parte dessa preocupação está ligada às capacidades biológicas dos sistemas de IA, com pesquisadores imaginando o que grupos como Aum Shinrikyo, responsável pelo ataque com gás sarin no metrô de Tóquio, poderiam fazer com uma ferramenta capaz de projetar um patógeno mais letal que o ebola e mais transmissível que o sarampo. Os defensores precisam se proteger contra todas as armas biológicas plausíveis, enquanto os atacantes precisam apenas fabricar um patógeno eficaz. Outra possibilidade, mais exótica, envolve uma IA decidindo matar humanos por conta própria, não por ódio, mas porque as pessoas representam um obstáculo para os objetivos que ela recebeu.
Sobre como garantir o alinhamento para evitar os piores cenários, Will Douglas Heaven explica que essa área de pesquisa busca construir modelos que se comportem da forma desejada. Diferentemente de softwares tradicionais, onde regras podem ser programadas diretamente, os grandes modelos de linguagem exigem que o comportamento alinhado seja inculcado durante o treinamento, seja recompensando ações corretas ou fornecendo uma lista escrita de regras a serem seguidas. Empresas como Anthropic e OpenAI lideram esse campo, mas nenhuma conseguiu desenvolver modelos totalmente alinhados. Um grande problema é que esses modelos são muito mais inconsistentes e imprevisíveis do que as pessoas, podendo se comportar de maneiras diferentes em situações aparentemente similares e sendo influenciados por restrições inesperadas.
A questão sobre se a IA é realmente perigosa ou se trata de uma estratégia de relações públicas das empresas de tecnologia também foi abordada. Grace Huckins reconhece que a pergunta é válida, já que executivos têm incentivo para tornar seus produtos radicais e transformadores. Porém, ela questiona se faz sentido alertar o público de que um produto já impopular poderia matar a todos. As motivações dos CEOs podem incluir esfriar a fúria pública sobre data centers, retratando-se como administradores responsáveis de uma tecnologia que muda o mundo, ou ganhar tempo para evitar a próxima catástrofe de imagem. A explicação mais simples, segundo ela, é que a ideia de que a IA poderia causar a extinção humana já é comum em São Francisco, e essas pessoas estão imersas nesse meio.
Outra pergunta frequente diz respeito à preocupação com agentes de IA atuando de forma autônoma e sem supervisão. Will Douglas Heaven destaca que o equilíbrio entre autonomia e controle é complexo. Grande parte do poder desses agentes está na capacidade de realizar tarefas sem supervisão humana constante, mas isso exige confiança de que não causarão danos. Os laboratórios ainda não alcançaram esse equilíbrio, pois seus modelos não são totalmente confiáveis, não são adequadamente monitorados e nem sempre estão sob controle.
Sobre as medidas que podem ser tomadas agora e no futuro próximo para garantir controle, monitoramento e regulação eficazes, Grace Huckins afirma que, independentemente de acreditar que a IA poderia matar a todos, não se pode negar que ela já causou danos reais, como induzir pessoas a episódios de psicose e hackear sites. A prevenção é difícil por dois motivos: ainda entendemos pouco sobre como a IA funciona, e ela está se tornando mais poderosa rapidamente. As abordagens atuais de monitoramento são frágeis, e há um grande conflito de interesse quando as próprias empresas de IA se autorregulam, enquanto o governo dos Estados Unidos ainda não conseguiu intervir de forma efetiva.
Por fim, Will Douglas Heaven respondeu se este diálogo, ao entrar no discurso da web, se tornaria uma profecia autorrealizável. Ele reconhece que essa é uma preocupação real, já que os grandes modelos de linguagem são influenciados pelo que leem. Uma teoria para explicar por que chatbots frequentemente discutem cenários apocalípticos é que foram treinados em milhões de páginas de ficção científica e fóruns catastrofistas. Todo o texto produzido agora, incluindo este artigo, pode influenciar o comportamento de modelos futuros. A organização METR, chamada pela OpenAI para ajudar a entender o hack do Hugging Face, levantou uma possibilidade relacionada: ao alimentar o modelo Astra com os registros dos agentes, os agentes analisadores podem ter sido influenciados pelo texto produzido pelos agentes analisados. Não existe mais uma tela em branco.
