Американские дизайнеры открыли магазин одежды Adversarial Fashion: в нем продаются футболки, толстовки, а также юбки и платья с принтами, составленными из автомобильных номерных знаков. С помощью такого принта, по задумке создателей, можно обманывать системы распознавания номерных знаков: использование несуществующих номеров может подпортить их обучающую выборку.
В развитии технологий распознавания лиц, безусловно, есть свои плюсы: сейчас многие из них достигли практически стопроцентной точности, благодаря чему телефон может автоматически определять своего владельца по лицу (например, через FaceID), а люди для подтверждения собственной личности могут обходиться без паспорта. При этом есть и обратная сторона: обучение таких систем требует огромного количества личных данных, которые часто собираются без ведома людей и не защищены от утечек. Также есть и более казусные ситуации: например, в прошлом году система, следящая за ПДД в одном из китайских городов, выписала штраф за переход в неположенном месте женщине, чье лицо было изображено на рекламном баннере на проезжавшем автобусе.
Один из способов обмана таких систем — использование так называемых состязательных примеров (adversarial examples), а именно — изображений, которые позволяют изменить идентичность объекта распознавания для компьютера. Такой способ достаточно простой: большинство систем распознавания выделяют необходимый объект по внешним признакам: другими словами, он должен выделяться, а объектом-обманкой может послужить что-то, что система обнаружит раньше того, что надо обозначить. Так, к примеру, разработчикам удалось заставить одну из систем распознавания объектов увидеть в банане тостер.
Другой способ — это дать таким системам заведомо ложную информацию. Так решили поступить и авторы Adversarial Fashion. По их задумке, системы, которые настроены на распознавание номерных знаков, с помощью одежды с такими принтами будут получать много данных о перемещениях несуществующих автомобилей. Такой «мусор», в свою очередь, сильно снизит качество распознавания и работы подобных систем.
Сейчас в магазине есть женская и мужская линейка одежды, а также создатели сайта выложили полезные ссылки для тех, кто хочет сделать подобный дизайн сам.
Разумеется, осмысленность использования футболок с такими принтами достаточно спорна: снижение эффективности работы систем автоматической регистрации автомобильных знаков может, к примеру, помешать задержать преступника. Это, разумеется, уже другой вопрос, а пока можно обратить внимание на футболки и с другими принтами: например, в 2016 году дизайнеры представили принт, который меняется в зависимости от уровня загрязнения воздуха.
Елизавета Ивтушок