Frank Pasquale, professor de direito da Universidade Cornell e um dos primeiros acadêmicos a alertar para os riscos dos algoritmos na sociedade, está chamando a atenção para um problema que considera cada vez mais grave: a tendência dos usuários de tratarem sistemas de inteligência artificial como se fossem pessoas. Em entrevista ao Observador, Pasquale argumenta que a IA generativa está aprofundando essa ilusão de forma preocupante, criando riscos éticos e psicológicos que precisam ser enfrentados com urgência.
A questão central levantada pelo especialista não é nova. Desde a publicação do seu livro "The Black Box Society", em 2015, Pasquale tem investigado como os algoritmos moldam decisões fundamentais em áreas como crédito, emprego e justiça criminal. No entanto, o advento da IA generativa trouxe uma dimensão diferente ao debate: ao produzir texto, imagem e voz com fluência natural, esses sistemas passaram a gerar uma sensação de interação humana que engana o usuário comum.
Para Pasquale, essa antropomorfização tem consequências reais. Quando as pessoas começam a ver ferramentas como o ChatGPT, da OpenAI, ou o Claude, da Anthropic, como entidades com personalidade, opiniões e sentimentos, passam a atribuir-lhes um grau de confiança que não é justificado pela tecnologia subjacente. Tratam-se de modelos estatísticos treinados com grandes volumes de dados, capazes de prever a próxima palavra ou frase mais provável, e não de sistemas conscientes ou autônomos.
O professor de direito alerta que essa confusão conceitual pode levar a dependência excessiva. Usuários que passam a consultar sistemas de IA como se fossem conselheiros pessoais podem deixar de exercer o próprio pensamento crítico e tomada de decisão. O risco é particularmente elevado em situações delicadas, como questões de saúde mental, orientação profissional ou decisões financeiras, onde a resposta gerada por um modelo pode ser imprecisa ou inadequada, mas é recebida como conselho de autoridade.
Outro ponto destacado por Pasquale é o problema da responsabilização. Quando um produto tecnológico é comercializado e utilizado como se fosse um interlocutor humano, a linha entre responsabilidade do fabricante e responsabilidade do usuário torna-se difusa. Se uma pessoa segue uma recomendação médica ou jurídica dada por um sistema de IA e sofre prejuízos, é difícil atribuir a culpa de forma clara. A arquitetura legal atual não está preparada para lidar com esse tipo de cenário, segundo o especialista.
A crítica de Pasquale dirige-se também à forma como as próprias empresas de tecnologia posicionam os seus produtos. Ao adotarem linguagem que personifica os modelos, utilizando termos como "o sistema entende", "a IA recomenda" ou "o assistente pensa", as companhias reforçam involuntariamente a percepção de que existe inteligência autônoma por trás da interface. O especialista defende que essa comunicação deveria ser mais transparente e honesta sobre as limitações dos sistemas.
A alternativa proposta por Pasquale é uma mudança de enquadramento mental e cultural. Em vez de ver sistemas de inteligência artificial como entidades com as quais nos relacionamos, deveríamos começar a tratá-los como produtos de consumo e entretenimento, comparáveis a motores de busca avançados ou interfaces de software sofisticadas. Essa reclassificação não diminui a utilidade das ferramentas, mas ajuda a estabelecer expectativas mais realistas por parte dos usuários.
Na prática, isso significa reconhecer que um modelo de linguagem é um produto criado por uma empresa específica, com limitações técnicas conhecidas, sujeito a erros e enviesamentos presentes nos dados de treino. Assim como ninguém espera que uma calculadora tenha opiniões pessoais, também não deveríamos projetar humanidade em sistemas que, por mais sofisticados que sejam, permanecem ferramentas.
Pasquale sublinha que o debate é especialmente relevante num contexto em que a regulamentação da IA avança em diferentes jurisdições. A União Europeia, com o AI Act, já estabeleceu um enquadramento que classifica sistemas de IA por níveis de risco, mas a questão da antropomorfização não é diretamente abordada pela legislação. Para o especialista, reguladores e legisladores precisam considerar não apenas os riscos técnicos dos modelos, mas também os efeitos psicológicos e comportamentais que a sua apresentação comercial provoca nos usuários.
A mensagem final de Pasquale é clara: a responsabilidade de desfazer essa confusão não recai apenas sobre os usuários. Empresas de tecnologia, reguladores, educadores e jornalistas têm um papel fundamental na construção de uma narrativa mais precisa sobre o que é e o que não é inteligência artificial. Enquanto continuarmos a projetar humanidade em ferramentas algorítmicas, estaremos a criar as condições para dependência, desinformação e erosão do pensamento crítico a longo prazo.
