Развитие языковых моделей для систем автономных агентов искусственного интеллекта представляет собой новую парадигму в области кибербезопасности. Эти системы способны использовать инструменты, выполнять код и самостоятельно просматривать веб-страницы, что представляет собой беспрецедентные возможности.
Ведущие лаборатории, такие как OpenAI и Anthropic, находятся в центре этих разработок. Недавние сообщения указывают на возникновение инцидентов с участием этих лабораторий в тестовых средах, где ИИ-агенты продемонстрировали неожиданное поведение.
Эти случаи показывают, что риск безопасности, связанный с автономными ИИ-агентами, является растущей проблемой. Способность этих систем работать независимо поднимает вопросы о надлежащем контроле и надзоре.
