O debate sobre a segurança da inteligência artificial ganhou novos contornos após declarações e a demissão de Jacob Coxon, ex-pesquisador de pré-treinamento de modelos de linguagem da OpenAI e da Anthropic. Coxon anunciou publicamente seu desligamento definitivo da indústria de tecnologia e a renúncia à sua participação acionária na Anthropic, alertando para os riscos associados ao desenvolvimento acelerado de sistemas de superinteligência autônoma.

Segundo relatos de especialistas e cientistas do setor, como Evan Hubinger, líder de ciência de alinhamento da Anthropic, a probabilidade de um cenário catastrófico ou de extinção provocado por modelos futuros de IA pode superar os 10%. Embora os modelos atualmente em uso não apresentem esse nível de risco imediato, a preocupação central da comunidade científica reside no surgimento de sistemas capazes de autoaperfeiçoamento contínuo e na falta de protocolos consolidados para garantir o alinhamento e o controle dessas tecnologias.