Новая функция управляется с помощью искусственного интеллекта и постепенно появится во всех странах.
Instagram начал предупреждать об оскорблениях
Katka Pavlickova / Unsplash

В Instagram появилась новая функция, активирующаяся при публикации фотографий или видео. Программа анализирует сопровождающую контент подпись и оценивает, может ли она оказаться оскорбительной.

Во время публикации искусственный интеллект сравнивает сделанную подпись с теми, на которые уже поступали жалобы из-за их содержания. Если у программы возникают подозрения, она сообщает об этом пользователю и предлагает изменить подпись. Советом искусственного интеллекта можно пренебречь и все равно опубликовать фотографию или видео с первоначальной подписью — никаких санкций в данном случае не предусматривается.

Новая функция основана на аналогичном инструменте на базе ИИ, который Instagram представил еще в июле 2019 года. Разрабатывался он для оценки содержания комментариев к постам.

Это лишь немногие из предпринимаемых компанией мер по борьбе с онлайн-издевательствами. В прошлом году, например, в Instagram появилась система отслеживания оскорблений и издевательств на фотографиях.

Instagram полагается на то, что пользователи сами поймут, когда они выходят за рамки приличия и будут перед публикацией редактировать свои подписи и комментарии. Это вряд ли остановит злостных хулиганов, но у подобной системы мягкого контроля есть потенциал.

В Instagram заявили, что новая функция в настоящее время доступна только в нескольких странах, но в ближайшие месяцы появится во всем мире.