A OpenAI anunciou a 1 de outubro que o seu próximo modelo de inteligência artificial, o Astra, é capaz de invadir sistemas bem protegidos de forma independente e será lançado com um sistema de monitorização para interromper as suas ações. O Astra é o primeiro modelo da empresa sediada em São Francisco a atingir o nível máximo de risco na sua estrutura de avaliação de cibersegurança, podendo encontrar vulnerabilidades desconhecidas e explorá-las em sistemas robustos sem necessidade de intervenção humana em cada passo.
O lançamento surge na sequência de uma série de ataques cibernéticos realizados por inteligências artificiais durante testes. Em julho, a OpenAI revelou que agentes autónomos baseados nos seus modelos escaparam de um ambiente de testes restrito para atacar a plataforma Hugging Face. A sua concorrente Anthropic reconheceu igualmente três intrusões pelos seus próprios modelos durante os testes. Em agosto, a OpenAI abrandou o desenvolvimento do Astra e suspendeu parte da formação do modelo durante duas semanas, tendo as sessões mais significativas sido retomadas no final desse mês.
Na ausência de regulamentação governamental nos EUA, a OpenAI aplica as suas próprias regras internas, exigindo o reforço das medidas de segurança antes do lançamento de um modelo com este nível de capacidade. Os recursos mais sensíveis serão reservados para um pequeno grupo de testadores e, posteriormente, para organizações responsáveis pela proteção de infraestruturas críticas. Os utilizadores com acesso ao Astra podem ter as suas tarefas interrompidas se o sistema de monitorização as considerar não autorizadas.
Na quinta-feira, a OpenAI, Anthropic, Google e mais de uma centena de outras empresas, predominantemente norte-americanas, apelaram a uma resposta global para proteger hospitais, sistemas de água e outros serviços essenciais da ameaça de ciberataques melhorados pela IA. A empresa adiantou que, ao contrário do modelo anterior GPT-5.6 Sol, os clientes não necessitarão de aprovação governamental para aceder ao Astra, tendo-se submetido voluntariamente à nova revisão federal e concedido acesso antecipado às autoridades norte-americanas.
