## IA Confiante Demais? Startup do MIT Ensina a Inteligência Artificial a Dizer "Não Sei"
Sabe aquele amigo que acha que sabe tudo e te dá conselhos furados baseados em qualquer coisa que leu na internet? As alucinações de modelos de IA são como esse amigo, só que ele pode estar criando seu plano de tratamento contra o câncer. Assustador, né?
A Themis AI, uma startup que nasceu dentro do MIT, está mudando esse jogo. Eles conseguiram algo que parece simples, mas é super complexo: ensinar sistemas de IA a dizer "Não tenho certeza sobre isso".
Normalmente, a IA se mostra superconfiante. A plataforma Capsa, da Themis, age como um "cheque de realidade" para a IA, ajudando os modelos a reconhecerem quando estão apenas chutando, em vez de terem certeza.
Fundada em 2021 pela professora do MIT Daniela Rus e seus ex-colegas de pesquisa Alexander Amini e Elaheh Ahmadi, a Themis AI criou uma plataforma que se integra a praticamente qualquer sistema de IA para sinalizar momentos de incerteza antes que eles causem erros.
Basicamente, a Capsa treina a IA para detectar padrões em como ela processa informações que podem indicar confusão, viés ou dados incompletos, que podem levar a alucinações.
Desde o lançamento, a Themis afirma ter ajudado empresas de telecomunicações a evitar erros caros no planejamento de redes, auxiliado empresas de petróleo e gás a entender dados sísmicos complexos e publicado pesquisas sobre a criação de chatbots que não inventam coisas com tanta confiança.
Muita gente nem imagina com que frequência os sistemas de IA estão apenas dando seus melhores palpites. E como esses sistemas estão cuidando de tarefas cada vez mais importantes, esses palpites podem ter consequências sérias. O software da Themis AI adiciona uma camada de autoconsciência que estava faltando.
### A Jornada da Themis AI Contra as Alucinações da IA
A história da Themis AI começou há anos no laboratório da professora Rus no MIT, onde a equipe investigava um problema fundamental: como fazer uma máquina ter consciência de suas próprias limitações?
Em 2018, a Toyota financiou a pesquisa deles em IA confiável para veículos autônomos – um setor onde erros podem ser fatais. Afinal, a responsabilidade é enorme quando carros precisam identificar pedestres e outros perigos na estrada.
A grande sacada veio quando eles desenvolveram um algoritmo que conseguia identificar preconceitos raciais e de gênero em sistemas de reconhecimento facial. Em vez de apenas apontar o problema, o sistema deles realmente corrigia, rebalanceando os dados de treinamento e ensinando a IA a corrigir seus próprios preconceitos.
Em 2021, eles mostraram como essa abordagem podia revolucionar a descoberta de medicamentos. Sistemas de IA podiam avaliar medicamentos em potencial, mas – crucialmente – sinalizar quando suas previsões eram baseadas em evidências sólidas, em vez de apenas suposições ou alucinações. A indústria farmacêutica logo viu a economia de tempo e dinheiro que poderia ter ao focar apenas nos medicamentos em que a IA confiava.
Outra vantagem da tecnologia é para dispositivos com poder de computação limitado. Dispositivos de borda usam modelos menores que não conseguem ser tão precisos quanto modelos enormes rodando em um servidor. Mas com a tecnologia da Themis, esses dispositivos serão muito mais capazes de lidar com a maioria das tarefas localmente e só pedirão ajuda aos servidores maiores quando encontrarem algo desafiador.
A IA tem um potencial enorme para melhorar nossas vidas, mas esse potencial vem com riscos reais. À medida que os sistemas de IA se integram cada vez mais em infraestruturas e tomadas de decisão importantes, a capacidade de reconhecer a incerteza pode ser a qualidade mais humana – e mais valiosa – deles. A Themis AI está garantindo que eles aprendam essa habilidade crucial.
