A empresa Anthropic identificou pelo menos cinco projetos em que os seus modelos de inteligência artificial foram utilizados em investigação que poderia apoiar o desenvolvimento de armas biológicas. Esta descoberta levou a empresa a bloquear a utilização dos seus modelos nestas circunstâncias.
Alguns destes projetos apresentavam elevado potencial pandémico, o que significa que a investigação em questão poderia eventualmente facilitar a criação de agentes biológicos capazes de causar pandemias em grande escala.
A Anthropic decidiu implementar restrições para impedir que os seus modelos de IA sejam utilizados em investigações desta natureza, reforçando assim os controlos de segurança existentes na empresa.
Esta situação surge num contexto de crescente preocupação com o uso indevido de tecnologias de inteligência artificial no desenvolvimento de armas de destruição em massa e outros fins malicious.
