Pesquisador ex-OpenAI alerta que corrida da IA pode sair de controle até o fim da década

Jacob Coxon, pesquisador de inteligência artificial de 27 anos que atuou na OpenAI e na Anthropic, alertou nesta terça-feira (08) que a disputa entre empresas para criar modelos capazes de se autoaperfeiçoar coloca a vida humana em risco. Ele trabalhou nos últimos três anos no pré-treinamento de modelos, etapa em que a IA absorve grandes volumes de dados.

Segundo Coxon, desenvolvedores do setor acreditam que a tecnologia pode ser fatal para a humanidade até o fim desta década. Em cenários mais agressivos, a situação poderia sair de controle já no fim do próximo ano. O risco central apontado por ele é o autoaperfeiçoamento recursivo, quando sistemas de IA projetam e treinam a próxima geração de modelos com pouca intervenção humana, o que dificulta o monitoramento.

O alerta foi endossado por Evan Hubinger, executivo da área de segurança da Anthropic. Ele afirmou existir a crença sincera de que a IA pode causar a morte de seres humanos e estimou em mais de 10% a chance de isso ocorrer na próxima década. Hubinger ponderou que o risco associado aos modelos atuais ainda é baixo, mas admitiu que a Anthropic não tem um plano capaz de garantir que um sistema mais inteligente que o ser humano obedeça integralmente aos seus criadores.

Coxon afirmou que, mesmo em empresas que reconhecem os perigos, os profissionais se sentem presos a uma disputa de mercado. Segundo ele, as companhias avaliam que, se não buscarem a liderança do setor, concorrentes menos cautelosos acabarão dominando a área.

A discussão sobre controle estatal ganhou força em julho, quando mais de mil profissionais de tecnologia, entre eles o CEO da Anthropic, Dario Amodei, pediram apoio em Washington para uma desaceleração coordenada no desenvolvimento de sistemas avançados. Nos Estados Unidos, os modelos de IA ainda não são regulamentados por lei federal.

Em setembro, o senador Bernie Sanders e o deputado Greg Casar apresentaram um projeto que propõe suspender o desenvolvimento da tecnologia até a criação de um órgão regulador federal. Já em agosto, a OpenAI interrompeu por duas semanas o treinamento de seus modelos mais recentes antes de retomá-lo com controles mais rigorosos. O cientista-chefe da empresa, Jakub Pachocki, defendeu neste domingo (13) que a coordenação internacional sobre o tema seja prioridade máxima para governos de todo o mundo.

Principais informações

• Jacob Coxon, ex-OpenAI e ex-Anthropic, diz que modelos capazes de se autoaperfeiçoar ameaçam a vida humana
• Ele afirma que o setor pode perder o controle em cenários agressivos já no fim do próximo ano
• Evan Hubinger, da Anthropic, estima em mais de 10% a chance de a IA causar mortes na próxima década
• Mais de mil profissionais de tecnologia, incluindo Dario Amodei, pediram desaceleração coordenada em Washington em julho
• Sanders e Casar propuseram suspender o desenvolvimento até a criação de um órgão regulador federal nos EUA