Especialistas envolvidos no desenvolvimento de inteligência artificial consideram possível que sistemas futuros provoquem uma catastrophe existencial ainda antes do final da década, potencialmente em menos de cinco anos. Estes investigadores alertam para os riscos associados ao avanço rápido desta tecnologia sem controlos adequados.
Entre os cenários mais preocupantes estão o uso de IA para desenvolver armas biológicas e o potencial da tecnologia para desencadear conflitos nucleares. Os especialistas temem que sistemas de IA cada vez mais poderosos possam ser explorados por atores mal-intencionados ou que falhas nos sistemas levem a decisões catastróficas.
Os avisos surgem num contexto de corrida tecnológica global, onde empresas e nações competem para desenvolver sistemas de IA cada vez mais avançados. Muitos destes especialistas defendem que são necessários mecanismos de segurança e regulação mais rigorosos para evitar consequências irreversíveis.
O debate sobre os riscos existenciais da IA tem ganho força na comunidade científica e tecnológica, com apelos para que a segurança seja priorizada em relação ao ritmo de desenvolvimento. Alguns investigadores propõem pausas ou limites temporários no treino de sistemas mais poderosos até que sejam implementadas salvaguardas adequadas.
