OpenAI apresenta estrutura de governança para alinhar práticas de segurança de IA com regulações emergentes
A OpenAI anunciou publicamente a criação de uma estrutura de governança que busca alinhar suas práticas de segurança, proteção e gerenciamento de riscos com as regulações de inteligência artificial que estão surgindo na União Europeia e no estado da Califórnia, nos Estados Unidos. O documento tem como objetivo demonstrar como a empresa implementa protocolos de segurança em seus modelos de fronteira e atender aos requisitos regulatórios que estão se tornando obrigatórios para desenvolvedores de inteligência artificial avançada.
O conceito de modelos de fronteira se refere aos sistemas de inteligência artificial mais poderosos e sofisticados disponíveis, aqueles que apresentam capacidades que podem gerar riscos significativos caso sejam utilizados de maneira inadequada. A União Europeia, por meio do Ato de Inteligência Artificial, estabeleceu obrigações específicas para empresas que desenvolvem esses modelos avançados, incluindo avaliações de segurança, padrões de proteção e requisitos de reporte de incidentes. O Código de Práticas para IA de Propósito Geral, que complementa a legislação europeia, detalha os procedimentos que os desenvolvedores devem adotar para demonstrar conformidade com as normas.
No âmbito estadual norte-americano, a Califórnia aprovou recentemente a Lei de Transparência em Inteligência Artificial de Fronteira, conhecida como SB 53, que representa a primeira legislação nos Estados Unidos voltada especificamente para regular sistemas poderosos de IA. Essa lei exige que grandes desenvolvedores publiquem relatórios anuais descrevendo como identificam, mitigam e governam riscos catastróficos associados às suas tecnologias. Os relatórios de transparência devem incluir detalhes sobre os modelos e o papel de avaliadores independentes no processo de verificação.
A legislação californiana também determina a divulgação de incidentes relacionados a riscos de segurança para o Escritório de Serviços de Emergência do estado. Além disso, a lei estabelece proteções para colaboradores que denunciem atividades que possam representar ameaças catastróficas, garantindo que funcionários e contratantes possam reportar preocupações sem temor de retaliação. Essas medidas buscam criar uma camada adicional de fiscalização e responsabilidade sobre as empresas que desenvolvem sistemas de IA avançada.
A estrutura de governança apresentada pela OpenAI descreve as práticas internas da empresa para avaliar e gerenciar os riscos associados aos seus modelos mais poderosos. O documento detalha como a empresa conduz avaliações de segurança, implementa medidas de proteção e mantém protocolos de resposta a incidentes. O alinhamento com essas regulações representa um passo importante para o setor, que busca demonstrar compromisso com o desenvolvimento responsável de tecnologias de inteligência artificial enquanto a paisagem regulatória continua a evoluir rapidamente em diferentes jurisdições.
