A Anthropic anunciou esta quinta-feira que bloqueou tentativas de produção de armas biológicas. A empresa de inteligência artificial identificou pedidos suspeitos através dos seus sistemas e agiu para impedir que a tecnologia fosse utilizada para fins prejudiciais.
A empresa interrompeu a troca de informações quando não conseguiu determinar a legitimidade das pesquisas submetidas. Perante a impossibilidade de verificar se os pedidos tinham objetivos legítimos, a Anthropic optou por uma abordagem de precaução máxima.
Os perfis associados às investigações foram banidos dos sistemas da empresa. A Anthropic não especificou quantos perfis foram afetados ou quantas tentativas foram bloqueadas.
A medida surge num contexto de crescente preocupação com o uso indevido de sistemas de inteligência artificial. A Anthropic, conhecida pelo desenvolvimento do assistente Claude, reforçou assim o seu compromisso com a segurança e a ética na utilização da sua tecnologia.
