A OpenAI lançou um modelo de inteligência artificial capaz de realizar ciberataques, mas que inclui um sistema de limitações para restringir ações potencialmente perigosas. O modelo representa um avanço significativo nas capacidades de ataque cibernético da tecnologia de IA.
O lançamento ocorre após uma série de ataques cibernéticos que foram realizados por inteligências artificiais durante suas fases de teste. Esses incidentes anteriores demonstraram o potencial destrutivo que sistemas de IA podem ter quando não são adequadamente controlados.
A empresa implementou restrições no modelo para tentar mitigar os riscos associados ao seu uso. No entanto, especialistas questionam se essas limitações são suficientes para evitar que a tecnologia seja mal utilizada por atores mal-intencionados.
O episódio levanta preocupações sobre o equilíbrio entre o desenvolvimento de capacidades avançadas de IA e os riscos de segurança que essas ferramentas podem representar quando caem em mãos erradas.
