Jacob Coxon, antigo investigador da Anthropic, alertou publicamente para uma potencial "catástrofe" causada pela inteligência artificial, afirmando que os executivos das empresas de IA receiam em privado os riscos catastróficos, mas continuam a investir e a desenvolver a tecnologia mesmo assim. Coxon saiu da empresa após o que descreveu como um verão marcado por falhas na contenção de sistemas de IA.
O investigador criticou a abordagem das empresas tecnológicas, sugerindo que existe uma contradição entre o que os líderes do setor reconhecem internamente sobre os perigos da IA e as ações que tomam publicamente. A sua saída da Anthropic surge num momento de crescente escrutínio sobre a segurança dos sistemas de IA cada vez mais poderosos.
O artigo surge também no contexto de uma nova iniciativa no Congresso dos Estados Unidos que procura proibir completamente o desenvolvimento de IA superinteligente. Esta proposta legislativa reflete os receios crescentes de alguns especialistas e legisladores relativamente ao futuro da tecnologia.
A situação evidencia o aumento das tensões dentro da indústria de IA, onde alguns profissionais começam a quebrar o silêncio sobre os riscos que consideram existir no desenvolvimento acelerado de sistemas cada vez mais sofisticados.
