Фатальная ошибка: полгода алгоритмы Facebооk * поднимали в топ запрещенный контент вместо того, чтобы бороться с ним
Недостаток в алгоритме ранжирования новостной ленты повысил уровень дезинформации и постов с запрещенным контентом, вместо того, чтобы бороться с ним.
Со стороны ситуация напоминает первоапрельский розыгрыш, однако на деле все произошедшее довольно печально. Посты, идентифицированные фактчекингом или искусственным интеллектом Facebооk* как ложные или запрещенные, должны падать в самый конец новостной ленты или вовсе не выводиться в ленте рядовых пользователей. Однако вместо этого алгоритм, напротив, стремился поднять их как можно выше. В досье, впервые опубликованном порталом The Verge, инженеры компании сообщили о «примерно 30% поражении» всего новостного контента. В целом, сбой затронул до половины всех читателей новостной ленты.
В заявлении Facebооk* для The Verge говорится: «Metа* обнаружила несоответствия в понижении рейтинга в пяти отдельных случаях, которые коррелировали с небольшими временными увеличениями внутренних показателей... Мы проследили основную причину ошибки программного обеспечения и внесли необходимые исправления». Facebооk* заявила, что это «не оказало существенного долгосрочного влияния на рейтинги», хотя портал Gizmodo признает, что ответ на запрос о реальном ущербе представители компании дали далеко не сразу.
Сообщается, что техническая проблема с новостной лентой возникла еще в 2019 году, но начала вызывать реальные проблемы лишь в конце 2021 года. Инженеры компании, считающиеся одними из лучших в мире, знали о проблеме в октябре прошлого года, но не могли найти ее причину, а исправить ее полностью удалось лишь 11 марта. Специалисты уже отзываются о «сумасшедшем» алгоритме как об одном из самых серьезных провалов Facebооk* за всю историю.
* Напоминаем, что корпорация Metа и принадлежащая ей социальная сеть Facebооk признаны запрещенными на территории Российской Федерации