Машины стали пугающе хороши в идентификации изображений. В вашем смартфоне, скорее всего, есть приложение, которое может разобрать фотографии по их содержанию. Но можно ли их обмануть? Вполне.
Черепаха как винтовка: ученые обманывают искусственный интеллект

Как гласит третий закон Ньютона, любое действие рождает противодействие, и системы распознавания образов тут не исключение. Понятно, что подобные технологии могут применяться как для слежки, так и с более дружелюбными целями. Именно поэтому их постоянно проверяют на прочность.

Группа исследователей из университета Кюсю открыла способ обманывать программы по распознаванию образов, изменив один-единственный пиксель на изображении. Этот пиксель расположен так, что он сбивает с толку нейросети, отвечающие за идентификацию, и они начинают принимать собак за кошек, а лошадей за машины.

Тестовые изображения были ограничены всего тысячей пикселей, но в случае более высокого разрешения и миллионов пикселей правило также работает. Только изменять надо не один пиксель, а несколько сотен.

Вторая группа исследователей, на этот раз из Массачусетского технологического института, умудрилась пойти еще дальше. Они смогли напечатать с помощью 3D-принтера скульптуру черепахи, которую программа, даже разглядев со всех сторон и под любым углом, приняла за винтовку. Этот эксперимент представляет куда большую проблему для технологии распознавания образов, так как все дело происходило в реальности, а программе позволили проанализировать объект со всех углов, но она все равно не определила его подлинную форму.

Вместе оба исследования показывают, какой путь предстоит пройти роботам и программам, прежде чем они достигнут человеческого уровня. В конце концов, наш мозг не обмануть, заменив один или даже сотню пикселей.