Especialistas em biossegurança e inteligência artificial têm expressado preocupações crescentes sobre o uso de modelos de IA para o desenvolvimento de armas biológicas. Em abril, pesquisadores alertaram que era perturbadoramente fácil obter de chatbots orientações sobre como tornar agentes patogênicos mais perigosos, levantando bandeira vermelha sobre os riscos dessa tecnologia.
Em junho, cientistas e executivos de empresas de IA assinaram uma carta aberta pedindo novos controles sobre a fabricação de DNA. O argumento principal é de que a IA pode acelerar significativamente o desenvolvimento de toxinas e vírus, tornando mais fácil a criação de armas biológicas.
Em agosto, cientistas relataram ter usado inteligência artificial para criar vírus que não são encontrados na natureza, demonstrando na prática o potencial dessa tecnologia para gerar novos agentes patogênicos.
Na quinta-feira, a Anthropic, empresa desenvolvedora de IA, anunciou que havia bloqueado várias tentativas de uso de seus modelos por pessoas que poderiam estar tentando transformar agentes patogênicos em armas, evidenciando que essas ameaças não são apenas teóricas.
