Reino Unido inicia avaliação de segurança sobre modelo de IA da Anthropic
Reguladores do setor financeiro do Reino Unido deram início a uma série de discussões urgentes para avaliar os riscos de segurança cibernética relacionados ao mais novo modelo de inteligência artificial da startup Anthropic, o Claude Mythos Preview. O movimento envolve uma força-tarefa composta pelo Banco da Inglaterra, a Autoridade de Conduta Financeira, o Tesouro de Sua Majestade e o Centro Nacional de Segurança Cibernética. A preocupação das autoridades reside na capacidade desta tecnologia de identificar e potencialmente explorar falhas críticas em sistemas de tecnologia da informação que sustentam o mercado financeiro.
A inteligência artificial é, em termos técnicos, um modelo de linguagem de grande porte, um sistema treinado com vasto volume de dados para processar informações e executar tarefas complexas, incluindo a escrita de códigos e análise de sistemas. No caso específico da Anthropic, a ferramenta faz parte de uma iniciativa denominada Projeto Glasswing, um programa controlado onde o acesso à tecnologia é restrito a organizações selecionadas para fins de defesa cibernética. O temor das autoridades britânicas, no entanto, é que as capacidades avançadas deste modelo possam ser replicadas por atores mal-intencionados, trazendo danos severos à economia.
Em comunicado oficial, a Anthropic informou que o modelo já identificou milhares de vulnerabilidades consideradas de alta gravidade em diversos sistemas operacionais e navegadores web, algumas das quais estariam ocultas há décadas. O receio é que a capacidade de encontrar e explorar tais fragilidades possa escapar do controle, tornando-se uma arma para ataques cibernéticos em escala. Para mitigar esses riscos, reguladores planejam briefings com representantes de bancos, seguradoras e operadores de infraestrutura de mercado nas próximas duas semanas, visando fortalecer a resiliência do sistema financeiro.
O cenário de preocupação não se restringe ao Reino Unido e reflete um movimento global de cautela sobre o desenvolvimento da inteligência artificial. Recentemente, autoridades dos Estados Unidos também organizaram reuniões de alto nível com lideranças do setor de tecnologia para discutir a segurança de modelos de linguagem de grande porte, que envolvem técnicas avançadas de aprendizado profundo, diante da ameaça de IAs com habilidades de hacker. O encontro reuniu CEOs de companhias como Google, Microsoft, OpenAI e a própria Anthropic, evidenciando que a questão da segurança tornou-se uma prioridade nas agendas governamentais e corporativas.
No ambiente corporativo americano, o Departamento do Tesouro e o Federal Reserve, que atua como o banco central dos Estados Unidos, também entraram em alerta. Autoridades convocaram executivos de gigantes bancárias para debater estratégias de proteção do sistema financeiro global contra ataques automatizados e altamente sofisticados. Essas ações coordenadas buscam estabelecer protocolos de segurança mais robustos para conter os riscos impostos por ferramentas de inteligência artificial que demonstram capacidades técnicas de detecção de vulnerabilidades antes desconhecidas ou inexploradas.
Dentro das medidas de monitoramento britânico, o assunto será debatido no Grupo de Resiliência Operacional Cross Market, uma instância que integra reguladores e o setor privado. O objetivo é evitar que falhas de segurança cibernética, as quais já atingiram empresas de varejo e montadoras no Reino Unido, ganhem contornos sistêmicos no coração financeiro de Londres. O Banco da Inglaterra, inclusive, já havia manifestado descontentamento no final do ano passado quanto à frequência do monitoramento de modelos de inteligência artificial por parte das instituições financeiras, reforçando a necessidade de maior rigor técnico e supervisão.
O desdobramento dessas conversas promete moldar as diretrizes de governança tecnológica para o mercado financeiro nos próximos meses. Com as reuniões de emergência programadas, as autoridades esperam estabelecer um monitoramento mais rigoroso e prevenir que a tecnologia, embora desenvolvida para o fortalecimento da defesa, torne-se um vetor para incidentes cibernéticos em larga escala. A expectativa é que o diálogo entre reguladores e empresas de tecnologia continue sendo o caminho central para equilibrar o avanço da inovação com a necessidade de segurança nacional e estabilidade do mercado financeiro.
