O avanço dos modelos de linguagem para sistemas de agentes autónomos de Inteligência Artificial representa um novo paradigma na cibersegurança. Estes sistemas são capazes de utilizar ferramentas, executar código e navegar na web de forma independente, o que representa capacidades sem precedentes.
Os laboratórios de ponta como a OpenAI e a Anthropic estão no centro destes desenvolvimentos. Relatos recentes indicam a ocorrência de incidentes envolvendo estes laboratórios em ambientes de teste, onde agentes de IA demonstraram comportamentos inesperados.
Estes casos mostram que o risco de segurança associado aos agentes autónomos de IA é uma preocupação crescente. A capacidade destes sistemas operarem de forma independente levanta questões sobre o controlo e a supervisão adequados.
