A empresa Anthropic revelou publicamente os usos nocivos que foram tentados com o seu modelo de inteligência artificial, o Claude. Entre os pedidos recebidos estavam pedidos para desenvolver armas biológicas, sistemas de vigilância em massa e até mísseis.
A divulgação destas tentativas ocorre num momento em que a segurança da inteligência artificial está em foco a nível global. A empresa decidiu partilhar estas informações para demonstrar os riscos associados ao desenvolvimento de modelos de IA poderosos e a necessidade de implementar medidas de segurança rigorosas.
A Anthropic tem investido significativamente em pesquisa sobre segurança de IA, procurando garantir que os seus modelos não possam ser utilizados para fins prejudiciais. Esta revelação faz parte de um esforço mais amplo da indústria tecnológica para ser mais transparente sobre os desafios que enfrenta.
Especialistas têm alertado que à medida que a tecnologia de IA avança, aumenta também o risco de misuse. A discussão sobre regulamentação e ética na inteligência artificial tem ganho destaque em fóruns internacionais, com governos e empresas a debaterem como equilibrar a inovação com a proteção da sociedade.
