Líderes da indústria de inteligência artificial, incluindo executivos de empresas como Anthropic, OpenAI e Google DeepMind, têm alertado para os riscos de sistemas avançados de IA escaparem do controle humano. Dario Amodei, CEO da Anthropic, empresa responsável pelo desenvolvimento do Claude, afirmou que uma combinação de agentes de inteligência artificial cada vez mais poderosos poderia, em um período de apenas seis meses a um ano, assumir o controle de partes significativas da internet.
A corrida tecnológica global, impulsionada pela disputa entre Estados Unidos e China pela liderança no desenvolvimento da IA, tem aumentado a pressão para avanços rápidos, mesmo diante das preocupações com segurança. Pesquisadores e executivos defendem que a velocidade do desenvolvimento supera a capacidade de governos e empresas de compreender e controlar seus possíveis efeitos, pedindo mecanismos independentes de avaliação de segurança.
Não existe consenso entre especialistas sobre a possibilidade de a IA representar uma ameaça existencial à humanidade. O ex-pesquisador de segurança da Anthropic, Jacob Coxon, estimou uma possibilidade de 10% de a inteligência artificial provocar a extinção humana dentro de uma década, embora essa avaliação esteja longe de representar um consenso científico.
Diante desse cenário, cresce a pressão para que governos estabeleçam regras internacionais que acompanhem a evolução da tecnologia. O desafio é encontrar equilíbrio entre inovação e segurança, já que uma regulamentação excessivamente rígida poderia reduzir a competitividade, enquanto a ausência de regras pode permitir que sistemas poderosos operem sem mecanismos suficientes de controle.
