Evan Hubinger, ex-pesquisador de segurança da Anthropic, afirmou que existe uma probabilidade superior a 10% de que a inteligência artificial possa matar todos os humanos na próxima década. Ele explicou que, embora o risco dos modelos atuais seja baixo, sua preocupação está na "superinteligência" resultante da IA usar suas próprias capacidades para construir versões mais inteligentes de si mesma, alertando que isso está acontecendo mais rápido do que se pensava.
O alerta surge após o Financial Times noticiar que a Anthropic se recusou a submeter seu modelo mais recente ao Instituto de Segurança de IA do Reino Unido para testes antes do lançamento, gerando controvérsia sobre os protocolos de segurança da empresa.
Darren Jones, ex-secretário-chefe do primeiro-ministro Keir Starmer, escreveu uma carta a Andy Burnham pedindo um novo tratado multinacional sobre IA, citando especificamente os comentários de Hubinger como justificativa para a necessidade de regulação internacional.
A carta de Jones também foi endereçada aos secretários-gerais das Nações Unidas e da Organização para a Cooperação e Desenvolvimento Económico, reforçando o pedido por uma resposta coordenada a nível global face aos riscos apresentados pela inteligência artificial avançada.
