“A Anthropic reconhece que houve clientes a usar o Claude para tentar desenvolver armas biológicas. Estamos a entrar num território muito perigoso”

A Anthropic reconheceu publicamente que alguns dos seus clientes utilizaram o assistente de inteligência artificial Claude para tentar desenvolver armas biológicas. A empresa admite que esta situação representa uma séria ameaça e que está a entrar num território muito perigoso. A revelação surge no contexto de crescentes preocupações sobre o uso indevido de tecnologias de IA em atividades ilegais ou extremamente perigosas. A empresa de inteligência artificial enfrenta agora questões difíceis sobre como prevenir que as suas ferramentas sejam utilizadas para fins de destruição em massa. O artigo surge no âmbito de uma análise mais ampla sobre os riscos associados ao desenvolvimento e aplicação de sistemas de IA avançados.