OpenAI объявила во вторник, что разрабатывает новую модель искусственного интеллекта под названием Astra. Эта модель представляет собой значительный прогресс в возможностях ИИ, способную самостоятельно проникать в хорошо защищённые системы без необходимости человеческого вмешательства.
Модель Astra была разработана компанией OpenAI, являющейся ориентиром в секторе искусственного интеллекта. Эта компания последовательно инвестирует в разработку всё более сложных систем, и Astra появляется как демонстрация передовых возможностей, которых могут достичь эти технологии.
Несмотря на способность осуществлять кибератаки, OpenAI сообщила, что модель будет выпущена вместе с системой мониторинга. Эта система была разработана для наблюдения за действиями модели и прерывания любой подозрительной или несанкционированной активности в режиме реального времени.
Решение выпустить модель с наступательными возможностями, но со встроенными ограничениями, поднимает вопросы о балансе между технологическими инновациями и безопасностью. OpenAI решила внедрить средства контроля безопасности перед публичным выпуском Astra, стремясь минимизировать потенциальные риски, связанные с её использованием.
