A OpenAI anunciou na terça-feira o lançamento do seu próximo modelo de inteligência artificial, denominado Astra. Este modelo representa um avanço significativo na capacidade das IAs de realizar operações autônomas.
O modelo Astra é capaz de invadir sistemas bem protegidos de forma independente, demonstrando um nível de sofisticação técnica que levanta preocupações sobre segurança cibernética. Esta capacidade coloca o novo modelo num patamar diferente dos anteriores.
No entanto, a empresa revelou que o Astra será lançado acompanhado de um sistema de monitoramento dedicado. Este sistema terá a função de interromper as ações do modelo caso estas ultrapassem certos limites definidos, procurando equilibrar a inovação com a segurança.
A decisão da OpenAI de incluir este mecanismo de segurança reflete a crescente atenção da indústria tecnológica para os riscos associados a sistemas de IA cada vez mais autônomos e capazes de realizar tarefas sensíveis.
