Jacob Coxon, um investigador de inteligência artificial de 27 anos que tinha saído da OpenAI para se juntar à Anthropic, decidiu abandonar completamente o setor. Coxon passou os últimos três anos a estudar os riscos associados à IA e acusa ambas as empresas norte-americanas de "brincarem com as nossas vidas" na corrida para desenvolver modelos de IA capazes de se auto-aperfeiçoar.
A principal preocupação de Coxon prende-se com o auto-aperfeiçoamento recursivo da IA, um processo pelo qual os sistemas de inteligência artificial poderiam melhorar a si próprios de forma autónoma e potencialmente descontrolada.
Esta posição extrema de Coxon contrasta com os avisos vindos do interior da própria Anthropic. Evan Hubinger, líder da equipa de testes de segurança da empresa, afirma que a IA pode matar todos os humanos e considera que a probabilidade de isso acontecer na próxima década é superior a 10%.
O abandono de Coxon do setor surge num momento em que a competição entre empresas como a OpenAI e a Anthropic para criar sistemas cada vez mais avançados continua a intensificar-se, raising concerns among some researchers about the pace of development without adequate safety measures.
