Группа исследователей из Лёвенского католического университета (Бельгия) нашла способ сделать человека невидимым для систем распознавания визуальных образов. Чтобы добиться необходимого эффекта, они создали специальное абстрактное изображение и разместили его на постере 40×40 см.
Василий Парфенов

Распознавание образов в реальном времени — перспективная технология, которая уже находит применение в охранных комплексах и системах поиска конкретных людей в толпе. Для выполнения этой задачи используются сверточные нейронные сети, которые способны с высокой скоростью и точностью выделять необходимые создателю образы из всей картинки. В силу особенностей обучения таких алгоритмов, они уязвимы к атаке через состязательные примеры — изображения, для человека практически идентичные целевым, но определяемые как совершенно иной класс объектов нейросетью.

Бельгийские ученые Симен Тюс (Simen Thys), Вайбе Ван Ранст (Wiebe Van Ranst) и Тун Гедеме (Toon Goedeme) задались целью создать универсальное изображение, которое выведет человека из «поля зрения» нейросети. Научная работа, посвященная этой теме, будет представлена на конференции «Светлые и темные стороны компьютерного зрения» в Калифорнии, США, летом 2019 года, а текст уже доступен на сайте arxiv.org.

Пример визуализации работы алгоритма YOLOv3

Исследователи проверяли свой метод на нейросети с открытым исходным кодом Darknet, которая использует модель распознавания YOLO («ты смотришь лишь однажды»). Это одна из самых быстрых и эффективных систем искусственного интеллекта для работы с изображениями, доступная каждому. Как показывает результат команды из Лёвенского католического университета, их состязательный пример почти всегда обманывает машинное зрение. В дальнейшем планируется работа над улучшением изображения, чтобы его можно было напечатать на одежде.

Проблема атак на нейросетевые алгоритмы распознавания образов с помощью состязательных примеров известна давно и до сих пор не являлась серьезной угрозой для них — достаточно чуть повернуть образец и алгоритм снова воспринимает его «правильно». Однако в 2017 году исследователями из Массачусетского технологического института была создана программа, которая позволяет генерировать трехмерные образы, гарантированно обманывающие машинное зрение. Задачей бельгийских ученых было создать паттерн, который замаскирует столь легкую для распознавания мишень как человек.

Интересно как устроен ядерный реактор и могут ли роботы построить дом?
Все о новых технологиях и изобретениях!
Спасибо.
Мы отправили на ваш email письмо с подтверждением.