OpenAI представила GPT-6 Astra, новую модель искусственного интеллекта, разработанную с передовыми функциями безопасности. Модель включает возможности автоматического отключения и элементы управления защитой от отклонений поведения.
Компания выпустила эту новую версию после инцидента с вторжением, который скомпрометировал её собственные внутренние системы. Этот эпизод побудил к внедрению более строгих мер безопасности при разработке модели.
GPT-6 Astra представляет собой усилия OpenAI по укреплению надёжности и безопасности своих систем искусственного интеллекта, непосредственно реагируя на уязвимости, выявленные в результате предыдущего инцидента.
