Какая развивающаяся технология наиболее опасная для человечества?
Если нашей цивилизации и грозит смерть от технологий, то какая из них наиболее вероятно нас погубит? Есть разные ответы на этот вопрос
Универсального ответа на этот вопрос нет. Разные эксперты называют различные варианты, и все они в той или иной степени правильные. Например, доцент кафедры права Фордемского университета Зефир Тичот считает такой технологией частное видеонаблюдение на рабочем месте. По ее словам, введение такой системы (это, кстати, уже сделала Amazon), позволит работодателям относиться к сотрудникам как к подопытным кроликам и получать море информации, чтобы побуждать их работать еще активнее и получать больше за меньшую оплату труда.
Такая система позволит отсеивать диссидентов с помощью систем раннего предупреждения и разрушать солидарность с помощью дифференцированного обращения. Исследования азартных игр научили казино собирать профили азартных игр, чтобы настроить их таким образом, чтобы иметь возможность заработать как можно больше на слабостях каждого игрока. По словам эксперта, эта технология сейчас переходит в системы управления персоналом и может распространиться повсеместно, если мы ее не остановим.
Будет ли опасен искусственный интеллект?
Майкл Литтман, профессор компьютерных наук Университета Брауна, утверждает, что опасаться стоит прежде всего неправильного использования ИИ.
Отчет AI100 за 2021 год включал раздел о наиболее серьезных опасностях искусственного интеллекта (ИИ). Группа экспертов из 17 человек выразила мнение, что по мере того, как системы искусственного интеллекта становятся все более полезными в реальных приложениях, они расширяют свой охват, вызывая рост рисков неправильного и чрезмерного использования, а также явного злоупотребления.
Одна из самых больших проблем ИИ касается «техно-революционизма» - отношения к тому, что такие технологии, как ИИ, могут быть использованы для решения любой проблемы. Аура нейтральности и беспристрастности, которую многие люди ассоциируют с принятием решений ИИ, приводит к тому, что системы воспринимаются как объективные и полезные, даже если они могут применяться ненадлежащим образом и могут быть построены на результатах предвзятых исторических решений или даже вопиющей дискриминации.
Без прозрачности данных или алгоритмов искусственного интеллекта, которые их интерпретируют, общественность может остаться в неведении относительно того, как принимаются решения, существенно влияющие на ее жизнь. Системы искусственного интеллекта используются для дезинформации в Интернете, что дает им возможность стать инструментом фашизма и угрозой миру. Недостаточное внимание к человеческим факторам интеграции ИИ привело к колебаниям между недоверием к системам, основанным на ИИ, и чрезмерной зависимостью от этих систем.
Алгоритмы искусственного интеллекта играют важную роль в принятии решений, касающихся распределения органов, вакцин и других элементов здравоохранения, а это означает, что такие подходы буквально смогут определять, кому жить, а кому умереть. Слишком высокая ответственность в руках машин может увеличить риск того, что эта технология погубит многих людей, пытаясь помочь.