«Мантия-невидимка»: как абстрактный постер сделал человека нераспознаваемым для машинного зрения
Распознавание образов в реальном времени — перспективная технология, которая уже находит применение в охранных комплексах и системах поиска конкретных людей в толпе. Для выполнения этой задачи используются сверточные нейронные сети, которые способны с высокой скоростью и точностью выделять необходимые создателю образы из всей картинки. В силу особенностей обучения таких алгоритмов, они уязвимы к атаке через состязательные примеры — изображения, для человека практически идентичные целевым, но определяемые как совершенно иной класс объектов нейросетью.
Исследователи проверяли свой метод на нейросети с открытым исходным кодом Darknet, которая использует модель распознавания YOLO («ты смотришь лишь однажды»). Это одна из самых быстрых и эффективных систем искусственного интеллекта для работы с изображениями, доступная каждому. Как показывает результат команды из Левенского католического университета, их состязательный пример почти всегда обманывает машинное зрение. В дальнейшем планируется работа над улучшением изображения, чтобы его можно было напечатать на одежде.
Проблема атак на нейросетевые алгоритмы распознавания образов с помощью состязательных примеров известна давно и до сих пор не являлась серьезной угрозой для них — достаточно чуть повернуть образец и алгоритм снова воспринимает его «правильно». Однако в 2017 году исследователями из Массачусетского технологического института была создана программа, которая позволяет генерировать трехмерные образы, гарантированно обманывающие машинное зрение. Задачей бельгийских ученых было создать паттерн, который замаскирует столь легкую для распознавания мишень как человек.