Алгоритмы Facebook* против жестокого контента сбоят: они не видят разницу между видео петушиных боёв и автокатастроф
* Социальная сеть признана экстремистской и запрещена на территории Российской Федерации.
«Проблема в том, что мы не можем и, вероятно, никогда не сможем получить модель, которая бы определяла даже большинство нарушений, особенно в чувствительных вопросах», — сообщил сотрудник Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации).
Издание Wall Street Journal сообщает, что алгоритмы Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) не всегда могут обнаружить расистские высказывания и видео от лица зачинщиков стрельбы. В качестве примера приводится ситуация, в которой искусственный интеллект не смог отличить видео петушиных боёв от записи автокатастроф.
«Проблема в том, что мы не можем и, вероятно, никогда не сможем получить модель, которая бы определяла даже большинство нарушений, особенно в чувствительных вопросах», — сообщил сотрудник Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) в середине 2019 года.
В июле 2021 года тренер волгоградского футбольного клуба «Ротор» Дмитрий Хохлов подал в суд на корпорацию Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации). Из-за неразборчивости искусственного интеллекта социальной сети любые посты, в которых упоминалась фамилия тренера, удалялись, а их авторы блокировались на неделю. Дело в том, что соцсеть распознаёт фамилию Хохлова как оскорбление украинцев. С 2015 года Facebook (Социальная сеть признана экстремистской и запрещена на территории Российской Федерации) блокирует аккаунты русскоязычных пользователей, употребляющих слово «хохол» и его производные в своих записях. По мнению администрации соцсети, такое наименование сопоставимо по градусу неполиткорректности со словом «ниггер» в адрес чернокожих людей.