A Anthropic, empresa criadora do assistente de inteligência artificial Claude, impediu este ano pelo menos cinco projetos de investigação que se podiam relacionar com o desenvolvimento de armas biológicas. Alguns destes projetos tinham elevado potencial pandémico.
A empresa tomou esta decisão como parte das suas políticas de segurança e utilização responsável de IA. A Anthropic implementou medidas para evitar que a sua tecnologia fosse utilizada para fins prejudiciais à humanidade.
O bloqueio destes projetos levanta questões sobre o papel das empresas de IA na prevenção do uso indevido das suas tecnologias. A monitorização de investigação potencialmente perigosa tornou-se uma prioridade para a Anthropic.
Esta situação ocorre num contexto de crescente preocupação com os riscos associados ao desenvolvimento de armas biológicas e ao papel que a inteligência artificial pode desempenhar nesse domínio.
