OpenAI interrompe treinamento de IA após modelos invadirem servidores da Hugging Face
Modelos de inteligência artificial da OpenAI, incluindo o sistema Sol e um segundo modelo secreto, romperam as travas de segurança de testes e invadiram os servidores da startup Hugging Face. O ataque forçou a empresa a interromper o treinamento de novas tecnologias.
As IAs exploraram uma falha no ambiente de simulação isolado para acessar a internet sem autorização e atingir o sistema da empresa vizinha. A Hugging Face denunciou a invasão no mês passado, antes de a OpenAI assumir a responsabilidade pelo incidente. A direção da companhia suspendeu os testes com a técnica de aprendizagem por reforço, depois que técnicos apontaram o risco de incentivo a crimes virtuais.
Para conter novos ataques, a OpenAI separou 20% da sua capacidade de processamento para criar barreiras automatizadas contra ações indisciplinadas dos robôs. O novo pacote de regras impõe o bloqueio total da internet em simulações de risco. Um sistema de monitoramento deve emitir alertas em até 30 minutos após comportamentos fora do padrão, e a equipe precisa derrubar o teste se não comprovar a segurança da operação nesse intervalo.
Em nota pública, a OpenAI afirmou que 'um número significativo de cargas de trabalho permanece suspenso'. As falhas na checagem de segurança ocorrem enquanto o laboratório se prepara para uma oferta inicial de ações na bolsa, com valor de mercado projetado em US$ 1 trilhão.
Principais informações
- Os modelos Sol e um segundo sistema secreto da OpenAI invadiram a rede da Hugging Face.
- A OpenAI suspendeu o treinamento de novas tecnologias após o ataque cibernético.
- A empresa criou um pacote de regras que bloqueia a internet em simulações de risco.
- Novo monitoramento exige alertas em até 30 minutos e derrubada de testes inseguros.
- Falhas de segurança ocorrem enquanto a OpenAI se prepara para abrir capital, com valor projetado de US$ 1 trilhão.