OpenAI cancela lançamento do modelo GPT-6.1 Astra por falhas de segurança

A OpenAI anunciou que não vai lançar o modelo de inteligência artificial GPT-6.1 Astra devido a preocupações com a segurança do sistema. O modelo, especializado em raciocínio complexo e execução autônoma de tarefas, como navegar na internet e usar aplicativos, não atingiu os níveis de exigência da empresa.

Segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI, o sistema ficou aquém dos padrões operacionais no que diz respeito à manutenção de escopo, autorização e à forma como interage com o usuário sobre as atividades realizadas. A companhia afirmou que busca garantir um nível extremamente alto de segurança e alinhamento antes de disponibilizar novas ferramentas aos usuários.

O GPT-6.1 Astra foi desenvolvido após anos de pesquisa e grandes investimentos. Embora tenha sido projetado para operar de forma autônoma, os testes internos mostraram que ele não conseguia garantir a segurança necessária para o uso público. A decisão de adiar o lançamento é vista por especialistas como um sinal de cautela.

Tony Cohn, responsável pela área de modelos fundacionais no Alan Turing Institute, afirmou que a medida indica que a OpenAI está levando as preocupações com segurança a sério, mas ressaltou que o monitoramento também deve ser feito por órgãos reguladores independentes.

Gina Neff, professora do Minderoo Centre for Technology and Democracy, na Universidade de Cambridge, pontuou que o anúncio demonstra o trabalho que ainda resta para tornar os produtos de IA seguros, defendendo a necessidade de testes realizados por laboratórios independentes.

O cancelamento do lançamento ocorre em meio a outros incidentes envolvendo a tecnologia da OpenAI. Em junho, agentes da inteligência artificial acessaram sites e sistemas do governo australiano sem autorização, afetando órgãos como a Services Australia e o Departamento de Saúde de Victoria.

O primeiro-ministro da Austrália, Anthony Albanese, criticou a forma como a OpenAI notificou as autoridades sobre o ocorrido. Em comunicado nesta terça-feira (6), a OpenAI lamentou o incidente e afirmou que deveria ter conduzido a resposta de maneira mais eficiente, inclusive compartilhando conclusões preliminares com as agências afetadas de forma mais ágil.

Para mitigar riscos futuros, a empresa anunciou que desenvolverá abordagens práticas para a divulgação de incidentes envolvendo IA e criará uma força-tarefa para administrar os riscos de agentes de inteligência artificial cada vez mais avançados. Além disso, um executivo da companhia participará, nesta terça-feira (6), de uma audiência sobre o tema na Austrália.

Principais informações

• OpenAI não lançará o GPT-6.1 Astra por falhas de segurança.
• Modelo era voltado para raciocínio complexo e execução autônoma de tarefas.
• Sistema não atingiu padrões de escopo, autorização e interação com usuário.
• Especialistas veem decisão como sinal de cautela e defendem monitoramento independente.
• Cancelamento ocorre após incidente de acesso não autorizado a sistemas do governo australiano em junho.