Jacob Coxon, um engenheiro de software britânico de 27 anos que trabalhou na Anthropic e nos últimos três anos na OpenAI, demiteu-se recentemente alegando que ambas as empresas "não estão a agir de forma responsável" em relação à inteligência artificial. Coxon, apontado pelos media como um dos desenvolvedores do GPT-4o e do GPT-4.5, alertou numa sequência de publicações na rede social X que as pessoas por detrás do desenvolvimento exponencial da IA "acreditam que esta nos poderá matar a todos até ao final desta década", considerando que "não existe outra atividade humana que represente este nível de ameaça".
O engenheiro defende que o poder da tecnologia está a ser subestimado, uma vez que os projetos de IA "em breve se tornarão sistemas sobre-humanos capazes de piratear qualquer coisa, revolucionar todas as áreas e conquistar poder e recursos reais". Para Coxon, tanto a OpenAI como a Anthropic têm consciência desta realidade, mas aponta uma diferença entre elas: a primeira "talvez não tenha interiorizado profundamente os desafios civilizacionais", enquanto a segunda os compreende bem, mas "está presa na corrida para chegar primeiro".
Coxon não vê outra saída além da coordenação entre os diferentes projetos de IA e as empresas envolvidas, mas sente que isso não está a acontecer. Por isso, defende "medidas de alto custo, como uma proibição temporária de melhorar as capacidades do modelo" e perguntou aos seus colegas: "Querem impulsionar uma aprendizagem por reforço superinteligente sem uma compreensão rigorosa da vossa mente?"
Em resposta, Evan Hubinger, investigador da Anthropic, concordou parcialmente com Coxon, afirmando que "acreditamos realmente com sinceridade que a IA poderia matar todos os humanos" e que pessoalmente considera a probabilidade superior a 10% na próxima década. Coxon não é o único investigador a afastar-se do desenvolvimento de modelos de IA: Geoffrey Hinton, Prémio Nobel da Física, deixou o seu cargo na Google em 2023 para poder criticar os riscos da IA sem restrições corporativas, e em 2024 ex-funcionários da OpenAI manifestaram preocupação com o rápido desenvolvimento da tecnologia e a ausência de leis que protegessem os denunciantes.
