Исследователи разработали специфический визуальный паттерн, который при печати на футболке способен обмануть системы искусственного интеллекта компьютерного зрения, заставляя человека, носящего её, не быть обнаруженным или быть спутанным с фоном. Этот паттерн использует так называемые «состязательные примеры» (adversarial examples) — визуальные возмущения, специально спроектированные для манипуляции работой алгоритмов машинного обучения.
Принцип, лежащий в основе этой техники, — не магия и не реальная невидимость, а намеренная эксплуатация слабостей и ограничений систем обнаружения на основе ИИ. Эти системы анализируют визуальные паттерны, и когда встречают определённые комбинации цветов, текстур или форм, они могут не распознать объект или человека, присутствующих на изображении.
Футболку прозвали «вероятно, самой уродливой в мире» из-за её намеренно неприятного и хаотичного дизайна, который никто не выбрал бы для носки из эстетических соображений. Именно этот странный внешний вид делает паттерн эффективным, поскольку затрудняет для алгоритмов компьютерного зрения возможность идентифицировать присутствие человека в кадре.
Это исследование поднимает важные вопросы о безопасности и конфиденциальности технологий наблюдения на основе искусственного интеллекта, демонстрируя, что эти системы могут быть уязвимы к относительно простым манипуляциям. В то время как одни видят в этом угрозу безопасности, другие утверждают, что эта техника может использоваться для защиты личной жизни перед лицом растущего цифрового наблюдения.
