Технический прогресс намного опережает прогресс социальный. Да и нащупать рамки «прогресса» в общественном сознании — дело куда более сложное, чем оценить важность изобретения интернета, ИИ или VR. Тем не менее, это факт: мы легко можем представить, что будет изобретено, и куда сложнее — как человечество отреагирует на инновации.
Главные этические вопросы, которые ставят перед нами новые технологии

В преддверии фестиваля о науке и технологиях Geek Picnic, который состоится 11−12 августа в Москве (парк Коломенское) и 18−19 августа в Санкт-Петербурге (Елагин Остров) позволим себе немного пофантазировать о главных морально-этических дилеммах будущего. Светлого или мрачного, но в любом случае — загадочного и такого притягательного.

Отношение к аугментированным людям

Мир — место довольно несправедливое, и, несмотря на тысячи лет истории, человечество до сих пор не может избавиться от ксенофобии, религиозного экстремизма, дискриминации и культурных барьеров. Насколько же должны усилиться эти проблемы, если к существующим различиям прибавится искусственное расширение человеческих возможностей? Как мы будем относиться к киборгам?

Пока что люди с искусственными конечностями или вживленными чипами вызывают интерес и восхищение силой прогресса. Яркий пример — Найджел Экланд, простой британский рабочий с роботизированным протезом руки. Найджел колесит по миру, выступает с лекциями и обласкан публикой — в этом году он, например, приезжает 11−12 августа в Москву на фестиваль науки и технологий Geek Picnic. С другой стороны, как только появляется малейшее превосходство над естественным строением организма, модификация тела начинает вызывать недовольство обычных людей.

Здесь тоже есть пример — Оскар Писториус, бегун из ЮАР. Ноги Оскара ампутированы ниже колен, но заменены высокотехнологичными протезами из углепластика за 30'000 $. И никого бы не смущала цена протезов, если бы не исследования профессора Герта-Петера Брюггемана. Он выяснил, что ноги южноафриканца дают тому преимущество перед соперниками. Подытожил свое исследование профессор фразой: «Вы еще приделайте ему электромотор!». И бегуна отстранили от соревнований. Конечно, потом выяснилось, что не такие уж преимущества однозначные, но факт был — Оскару давали небольшое преимущество искусственные ноги, и общественность была недовольна.

Но что случится, когда искусственные конечности уже точно станут совершеннее натуральных? Когда появятся люди, сменившие родные руки-ноги на киберпротезы не из-за несчастного случая? Самое очевидное, что приходит в голову — вселенная Deus Ex, а, в частности, части Human Revolution и Mankind Divided. В этом киберпанковом сеттинге люди с аугментациями подвергаются (по вполне обоснованным причинам) осуждению и остракизму, а в итоге все выливается в полноценный апартеид.

Насколько это может быть близко к реальности? Казалось бы, люди склонны с подозрением относиться к технологиям, всерьез меняющим уклад жизни. Но в качестве противоположного примера можно привести автономные автомобили — несмотря на два смертельных ДТП и несколько не летальных, люди продолжают смотреть с оптимизмом на беспилотный транспорт: согласно опросу компании Ford, 61% взрослого населения Земли ждет появления беспилотников на дорогах.

Так что, вполне вероятно, нас все-таки ждет не бесконечно мрачный киберпанк, а светлое будущее, где увечья — больше не проблема. И где при желании вы можете стать быстрее-выше-сильнее любого, даже самого тренированного спортсмена. А главное — где общество принимает модифицированных людей.

Свобода искусственного интеллекта

Еще недавно фраза «восстание машин» была разве что напоминанием о начале Терминатора. Сейчас виднейшие умы современности, вроде Джеймса Баррата и Илона Маска, всерьез опасаются того, что может принести нам ИИ. А последний деятель так и вовсе назвал искусственный интеллект «самым большим риском, с которым мы сталкиваемся как цивилизация».

Почему так? Ключевое слово в «ИИ» — не «искусственный», а «интеллект». Человек привык быть единственным существом на планете, обладающим развитым абстрактным мышлением, способностью к анализу и фантазией. И возможность создать нечто, мыслящее более совершенно, чем сам человек, прямо иллюстрирует эффект «зловещей долины». Когда нечто ведет себе подобно человеку (но не в точности как он), то вызывает у наблюдателя отвращение. А изобретать что-то, что вызывает отвращение — глупо, так?

Избежать «зловещей долины» можно было бы, введя некоторые правила и ограничения для ИИ — чтобы искусственный собеседник без проблем мог пройти тест Тьюринга. Это, фактически, уже возможно — Microsoft разработали программу, чей машинный перевод китайского текста практически неотличим от человеческого. Но тогда возникает другая проблема.

Если вернуться к товарищу Маску — его предостережение на самом деле звучит чуть длиннее. Изобретатель переживает, что роботы в состоянии развязать войну, выпуская фейковые новости, факты и пресс-релизы, и делая это в десятки раз лучше людей. И в этом свете анонсированный им сайт Pravda, позволяющий отделить ложь от истины, выглядит закономерно.

Что мы получаем в итоге? Либо пугающий ИИ, превосходящий человека во всем, либо робота, тщательно мимикрирующего под своих создателей. И тем самым стирая грань между машинным интеллектом и естественным.

Рискнем предположить: скорее всего, со временем разработки в сфере ИИ будут отрегулированы. С определением степени свободы, доступной машине. Что сделает из искусственного интеллекта всего лишь очередной очень умный компьютер. Но никак не совершенный разум со свободой воли.

Иначе нас, вероятно, ждет ситуация «я тебя породил, я тебя и убью». Или противоположный сюжетный поворот.

Использование персональных данных

Список покупок с кредитной карты, медицинские анализы в единой базе данных, ID, страницы в соцсетях и история поисковика — даже про самого подозрительного интроверта найдется множество занятных фактов, если иметь соответствующий доступ к данным.

Все, что собирает о нас информацию, служит для того, чтобы облегчить жизнь. Мы не сторонники теорий заговора, но вполне можем представить этическую дилемму в ближайшем будущем. А, пожалуй, даже обсудить реальную проблему. Ее реальность подтверждает, например, бывший работник Google, специалист по Big Data — Сет Стивенс-Давидовиц, написавший целую книгу о том, как люди доверяют строке поиска самые темные секреты.

Какие данные о человеке и как можно использовать ради спокойствия и удобства? И может ли кто-то определять за личность, что есть спокойствие и удобство?

Казалось бы, однозначный ответ — нет. Антиутопии рисуют нам пугающий мир, где человек может быть выброшен из общества только из-за немного девиантного поведения. На эту тему будто бы высказалось вообще все — от литературы (почти любая классическая дистопия) до сериалов (Black Mirror) и даже аниме (Psycho-Pass). Но ключевые черты любого подобного произведения — то условие, что главного героя что-то выбрасывает из типичного ритма жизни, и он становится врагом народа.

Но многие ли из нас смогли бы (или хотя бы захотели) в самом деле пойти наперекор обществу и бросить очевидное спокойствие и благополучие в обмен на собственную независимость? Без расстановки негативных акцентов система предотвращения преступлений, вроде Person of Interest, перестает быть тоталитарным кошмаром и превращается в действительно полезное изобретение. Ведь возможность стать жертвой преступления звучит куда страшнее потери конфиденциальности.

Впрочем, известная фраза Бенджамина Франклина гласит: «Кто жертвует свободой ради спокойствия, не достоин ни того, ни другого». Соглашаться ли с ним — личное дело каждого. Отметим только, что в XVIII веке Бен и представить не мог, насколько большие могут быть жертвы и насколько тотальным может быть контроль. И спокойствие, возможно, тоже.

Хотя если бы знал, наверное, сказал бы: «Никакой свободы врагам свободы».

Мы занялись визионерством и сделали несколько прогнозов, но правда в том, что грядущее — всегда сложно предсказуемо. Журналы о будущем начала XX века предрекали нам гигантские ходячие города, потом были летающие автомобили и яблони на Марсе.

И то, то в итоге мы имеем смартфоны, интернет и большой адронный коллайдер, доказывает главное — впереди нас ждет много сюрпризов. И это прекрасно.

Ну, а обсудить все эти моральные коллизии и присоединиться к миру технологий будущего можно купить на сайте. Специально для читателей «Популярной механики» действует промокод на скиду при покупке билетов 10 процентов.

Понравилась статья?
Подпишись на новости и будь в курсе самых интересных и полезных новостей.