OpenAI объявила во вторник о запуске своей следующей модели искусственного интеллекта под названием Astra. Эта модель представляет собой значительный прорыв в способностях ИИ выполнять автономные операции.
Модель Astra способна самостоятельно проникать в хорошо защищённые системы, демонстрируя уровень технической сложности, который вызывает опасения относительно кибербезопасности. Эта способность выводит новую модель на качественно иной уровень по сравнению с предыдущими.
Однако компания сообщила, что Astra будет запущена в сопровождении специальной системы мониторинга. Эта система призвана прерывать действия модели в случае превышения определённых установленных ограничений, стремясь сбалансировать инновации и безопасность.
Решение OpenAI включить этот защитный механизм отражает растущее внимание технологической индустрии к рискам, связанным с всё более автономными системами ИИ, способными выполнять чувствительные задачи.
