A aliança inédita entre Anthropic e Vaticano que busca impor limites à inteligência artificial
O papa Leão XIV critica o avanço descontrolado da inteligência artificial e a concentração de poder nas grandes empresas de tecnologia em sua primeira encíclica, intitulada "Magnifica Humanitas". O documento, apresentado no Vaticano, traz como centro do debate a necessidade urgente de estabelecer restrições éticas para o desenvolvimento da IA, especialmente em aplicações militares.
Durante o evento, Christopher Olah, fundador da startup Anthropic, reforçou que o desenvolvimento da inteligência artificial não pode ficar restrito às empresas do setor. Segundo ele, é fundamental que haja maior supervisão por parte de governos, líderes religiosos e da sociedade civil sobre a tecnologia. Olah foi o único representante do meio tecnológico convidado para participar da cerimônia, o que chama atenção pela postura frequentemente independente que a empresa mantém em relação a questões políticas sensíveis.
O canadense destacou sua trajetória dedicada à segurança da inteligência artificial e o diálogo frequente que mantém com comunidades religiosas. Em sua fala, ele lembrou que já debateu os dilemas éticos trazidos pela tecnologia com integrantes de mais de 15 religiões ao longo de sua carreira. Olah destacou que cada laboratório de IA opera dentro de um conjunto de incentivos e restrições que frequentemente conflituam com a tomada de decisões éticas corretas, reconhecendo que mesmo pesquisadores bem-intencionados são afetados por forças comerciais e geopolíticas.
Diante desse cenário, o canadense defendeu a necessidade de auditoria externa e expressou preocupação com o ritmo acelerado do setor de tecnologia. Para ele, this is a particularly challenging moment because things are changing quickly with a technology that is truly powerful. Olah alertou para a possibilidade real de a inteligência artificial substituir postos de trabalho em larga escala, afirmando que apoiar aqueles que forem deslocados será um imperativo moral de proporções históricas.
O especialista também criticou a autossuficiência do meio técnico e contestou a ideia de que questões relacionadas à inteligência artificial sejam mais bem tratadas exclusivamente por cientistas da computação. Na avaliação dele, essa crença está equivocada. Ele completou dizendo que existe o risco real de as coisas correrem mal, e que cabe a todos empurrar o desenvolvimento tecnológico numa boa direção.
O papa Leão XIV agradeceu a Olah pela oportunidade de juntos encontrarem o caminho para a humanidade neste tempo de inteligência artificial. Essa colaboração entre a Igreja Católica e um empresário do setor tecnológico foi classificada por especialistas como um fato sem precedentes na história recente.
Margaret O'Mara, historiadora de tecnologia da Universidade de Washington, analisou que a sociedade está inserida neste território estranho e desconhecido no qual política, negócios e religião estão intimamente ligados uns aos outros. Ela recordou que, em 1891, o papa Leão XIII publicou uma encíclica contra os impactos da Revolução Industrial e do capitalismo sem contar com a cooperação de nenhum capitalista, cenário completamente diferente do que ocorre nowadays with o Vaticano buscando diálogo direto com representantes do setor de inteligência artificial.
Essa convergência em Roma aprofunda o isolamento político da Anthropic em Washington, onde a empresa enfrenta forte oposição interna. Críticos alinhados à administração Trump, como o investidor Jason Calacanis, acusam o executivo-chefe da startup, Dario Amodei, de assustar o público desnecessariamente com seus posicionamentos sobre riscos da tecnologia.
O governo norte-americano adotou uma postura de fomento acelerado à inteligência artificial para rivalizar com a China, colidindo frontalmente com as restrições contratuais exigidas pela Anthropic ao Pentágono. A empresa dificulta o uso de seus modelos, como o recém-lançado Mythos, em sistemas de vigilância doméstica ou em armas autônomas, estabelecendo limites que vão contra a política de aceleração tecnológica do atual governo.
