A Anthropic interveio durante este ano para travar cinco potenciais operações em que cientistas recorreram aos principais modelos de inteligência artificial da empresa norte-americana em investigações que poderiam contribuir para o desenvolvimento de armas biológicas. Os casos são descritos no relatório "Detecting and countering misuse of AI", divulgado pela empresa, que alerta para o aumento das capacidades dos modelos de IA na área da investigação científica e para o risco de estas poderem ser utilizadas para fins maliciosos.
Segundo a Anthropic, os modelos mais antigos, como o Claude Opus 4 e o Claude Sonnet 4.5, lançados em 2025, estavam "muito abaixo" do nível de capacidade a partir do qual poderiam prestar uma ajuda significativa a um utilizador sofisticado na realização de investigação biológica perigosa. A situação mudou com os modelos mais recentes, que são capazes de apoiar tarefas complexas de investigação científica. Por precaução, a empresa lançou os modelos mais recentes, incluindo o Claude Fable 5, com salvaguardas mais fortes, restringindo o acesso a uma gama mais alargada de pedidos relacionados com investigação biológica de utilização dupla.
A empresa identificou cinco casos concretos. Num deles, uma plataforma de revenda contornou os bloqueios regionais para disponibilizar os modelos a virologistas envolvidos num projeto financiado por um Estado relacionado com investigação sobre o vírus chikungunya. Noutro caso, um investigador utilizou o Claude durante várias semanas para planear experiências relacionadas com a adaptação da gripe aviária a mamíferos. Um terceiro caso envolveu um serviço de intermediação através do qual o Opus 5 elaborou uma candidatura completa a uma bolsa de investigação sobre evasão imunitária de ortopoxvírus. Nos restantes dois casos, um investigador apoiado pelo Estado utilizou os modelos para criar um atlas de péptidos de veneno e um sistema de otimização generativa de moléculas, e outro investigador recorreu ao Claude para redesenhar computacionalmente toxinas no âmbito de um programa nacional.
A Anthropic sublinha que os casos não permitem concluir que os investigadores tivessem necessariamente a intenção de causar danos, uma vez que a mesma investigação pode ter aplicações legítimas. Depois de detetar os casos, a empresa baniu as contas associadas e incorporou as conclusões nas suas ferramentas de proteção. A Anthropic considera que a divulgação destes casos deve contribuir para um debate mais amplo entre empresas de IA e governos sobre os riscos associados ao uso da tecnologia na investigação biológica.
