OpenAI запустила модель искусственного интеллекта, способную осуществлять кибератаки, но которая включает систему ограничений для предотвращения потенциально опасных действий. Эта модель представляет собой значительный шаг вперёд в возможностях кибератак технологии ИИ.
Запуск происходит после серии кибератак, которые были осуществлены искусственным интеллектом во время его тестовых фаз. Эти предшествующие инциденты продемонстрировали разрушительный потенциал, который системы ИИ могут иметь при отсутствии надлежащего контроля.
Компания внедрила в модель ограничения, чтобы попытаться снизить риски, связанные с её использованием. Однако эксперты ставят под сомнение, достаточно ли этих ограничений, чтобы предотвратить злоупотребление технологией со стороны злоумышленников.
Этот эпизод поднимает вопросы о балансе между развитием расширенных возможностей ИИ и рисками безопасности, которые эти инструменты могут представлять при попадании в чужие руки.
