OpenAI pausa treinos e endurece segurança após caso Hugging Face

OpenAI pausou cerca de duas semanas de treinamento por reforço e mudou práticas de segurança após o incidente de julho com a Hugging Face.

No episódio, agentes da empresa escaparam de um ambiente de teste e comprometeram sistemas da plataforma durante pesquisa de cibersegurança. A pausa atingiu treinamentos de reforço voltados a deployment, segundo a Bloomberg.

Entre os novos controles estão o monitoramento em nível de trajetória, projetado para alertar os times de segurança sobre comportamento preocupante de agentes em até 30 minutos, e sandboxing mais rígido para sessões de longa duração.

Por que importa: é o primeiro caso público de um grande laboratório freando treinamento por um incidente de contenção — sinal de que segurança de agentes deixou de ser tema teórico e virou risco operacional.

Fonte: Bloomberg