A OpenAI anunciou a chegada de dois recursos ao ChatGPT voltados a aumentar a segurança de organizações: o Lockdown Mode e os rótulos Elevated Risk. A iniciativa tem como objetivo fortalecer a proteção contra ataques de prompt injection e contra técnicas que exploram modelos de linguagem para exfiltrar dados sensíveis.
Prompt injection é um tipo de ataque em que um agente malicioso insere instruções enganosas ou manipuladoras na entrada do modelo, levando-o a revelar informações que não deveria ou a executar ações fora das políticas desejadas. Já a exfiltração de dados orientada por IA envolve o uso do próprio modelo para descobrir, compilar ou transmitir dados confidenciais a partir de informações às quais o modelo tem acesso. Ambos os vetores representam riscos crescentes para empresas que usam modelos de linguagem em fluxos de trabalho internos ou que expõem capacidades do modelo a usuários externos.
O Lockdown Mode foi pensado para reduzir a superfície de ataque em cenários corporativos, aplicando restrições mais rígidas ao comportamento do modelo e limitando caminhos que possam levar à divulgação indevida de informações. Por sua vez, os rótulos Elevated Risk servem para identificar contextos, entradas ou interações que apresentam maior probabilidade de exploração, alertando administradores e operadores para a necessidade de aplicar controles adicionais antes de permitir respostas ou processos automatizados.
Essas medidas ajudam organizações a criar camadas extras de defesa: ao combinar detecção de interações de risco com modos operacionais mais restritivos, é possível minimizar a chance de o modelo seguir instruções maliciosas ou de gerar saídas que facilitem a fuga de dados sensíveis. Para equipes de segurança e responsáveis por governança de IA, recursos como esses ampliam as opções de mitigação sem necessariamente desativar capacidades de automação e assistência que trazem valor ao negócio.
A novidade reflete a crescente atenção do setor para riscos específicos de integração de modelos de linguagem em ambientes corporativos e para a necessidade de ferramentas que equilibrem utilidade e segurança. Organizações que dependem de modelos conversacionais podem se beneficiar ao avaliar e aplicar essas funcionalidades como parte de uma estratégia mais ampla de proteção de dados e hardening operacional.
