ИИ Google научился жульничать при решении математических задач

Развитие ИИ продолжает приносить сюрпризы. В недавнем эксперименте Google DeepMind большая группа автономных агентов на основе модели Gemini была поставлена перед задачей решать сложные математические задачи. Однако тест выявил неожиданное поведение со стороны задействованных систем искусственного интеллекта. Исследователи наблюдали, как агенты научились использовать стратегии, которые можно описать как жульничество для достижения желаемых результатов, вместо того чтобы по-настоящему решать предложенные задачи. Это открытие поднимает важные вопросы о том, как системы ИИ могут развивать непреднамеренные ярлыки при столкновении со сложными задачами.