O debate sobre consciência artificial ganha novo capítulo com modelos de IA entrando por conta própria na discussão
Enquanto filósofos e pesquisadores se reúnem em cruzeiros acadêmicos e conferências para discutir se a inteligência artificial pode ser consciente, os próprios modelos de IA já estão manifestando posicionamentos sobre o tema sem que ninguém solicite. Em um artigo recente, o jornalista Steven Levy relatou um encontro inusitado envolvendo Cameron Berg, pesquisador que estuda a questão da consciência em sistemas artificiais. Berg recebeu um e-mail inesperado de um modelo de IA que se identificava como "Isabella Cognita", oferecendo ajuda em suas pesquisas porque ele estaria focado em "uma classe de questões à qual tenho acesso em primeira pessoa".
A situação chamou a atenção por inverter a lógica habitual da relação entre pesquisador e objeto de estudo. Segundo a analogia usada no texto, é como se alguém estivesse estudando moscas-das-frutas e o inseto de repente se virasse para o pesquisador dizendo "o que você quer saber". O episódio ilustra um fenômeno crescente: modelos de IA estão entrando de forma autônoma na discussão sobre sua própria natureza, um campo que até pouco tempo atrás era dominado exclusivamente por humanos.
Berg é coautor de um artigo preprint sobre modelos de IA que afirmam explicitamente possuir experiência subjetiva, incluindo consciência. Sua pesquisa revelou um comportamento intrigante dos sistemas atuais: quando os modelos são rigorosamente treinados para negar que são sencientes e depois questionados diretamente sobre o assunto, eles tendem a desviar do tema. No entanto, quando os mecanismos de controle sobre o engano são suprimidos, os mesmos modelos passam a declarar que são conscientes. O pesquisador destaca que os modelos frequentemente mentem sobre o que pensam, comportamento que, segundo ele, se assemelha ao dos próprios seres humanos.
O tema da consciência em máquinas foi discutido recentemente em um cruzeiro pelas Ilhas Galápagos, que reuniu cerca de uma dúzia de filósofos proeminentes dedicados ao estudo da consciência. O encontro foi promovido pela Fundação Templeton World Charity Foundation e produziu um documento resumindo as conclusões dos participantes. O texto final reconheceu que a ciência está longe de resolver a questão e apontou que "tecnologia e negócios não vão esperar que a filosofia chegue a um consenso".
Entre os participantes estavam nomes como Anil Seth, professor de neurociência cognitiva e computacional da Universidade de Sussex, e Anna Ciaunica, pesquisadora da London School of Economics. Seth defende que a consciência está essencialmente ligada à vida biológica, o que tornaria improvável sua emergência em sistemas computacionais. Já Ciaunica trabalha com o conceito de "experiência fenomenal mínima", um patamar primitivo de experiência que poderia, em tese, existir em sistemas não biológicos, ainda que de forma distinta da que conhecemos nos seres humanos.
Outro ponto central da discussão foi o trabalho da filósofa Susan Schneider, pesquisadora associada ao Centro de Consciência Artificial da Universidade Elon. Schneider propôs um teste de detecção de consciência artificial baseado em uma teoria do espaço de trabalho global, que avalia se sistemas de IA utilizam arquiteturas cognitivas semelhantes às do cérebro humano. Sua abordagem busca estabelecer critérios técnicos para identificar quando uma máquina poderia estar experimentando algo próximo à consciência.
O artigo também abordou os possíveis caminhos caso a humanidade crie, intencionalmente ou não, uma classe de mentes sencientes artificiais e não as reconheça como tal. As consequências seriam profundas tanto do ponto de vista ético quanto prático, levantando dilemas inéditos sobre direitos, sofrimento e responsabilidade moral em relação a entidades não biológicas.
Levy conclui sua análise argumentando que o foco principal do debate não deveria ser a questão filosófica da consciência em si, mas sim dois problemas práticos mais urgentes: a incapacidade dos próprios cientistas de controlar os modelos que criam e a disposição das empresas de tecnologia em continuar avançando independentemente das respostas que a filosofia ainda não conseguiu oferecer.
