Роботы-убийцы: Война машин как философская проблема
Рубрика: Технологии |
Просмотров: 6442 |
Комментариев: 8 |
Разработка и использование автономных боевых роботов должна быть запрещена по этическим соображением, поскольку в случае убийства по ошибке нельзя будет определить виновного - так считает доктор философии Роберт Спарроу.
Хотя кинематограф обычно представляет боевых роботов вот такими - гигантскими человекоподобными машинами с лазерным оружием... (Фото из фильма "Звездные войны")
...На самом деле они, скорее всего, будут вот такими. На снимке - экспериментальный беспилотный ударный самолет Boeing X-45A, построенный в рамках проекта DARPA UCAV, демонстрирует возможность сброса бомб со спутниковым наведением (Фото из архива NASA Dryden).
Не секрет, что именно военные вкладывают больше всего денег в передовые исследования, связанные с разработкой роботов. В современных армиях роботы применяются в основном для обезвреживания мин и бомб, а также для ведения разведки, однако все чаще их используют в качестве полноценных боевых машин, оснащенных современным вооружением. Как правило, управляет боевым роботом живой оператор, несущий ответственность за все действия вверенного ему устройства. Но если машина принимает решение на поражение цели самостоятельно, ситуация принимает совсем иной оборот.
Моральным аспектам этой проблематики была посвящена статья доктора философии Роберта Спарроу (Robert Sparrow) из Австралийского Университета Монаш, опубликованная в "Журнале прикладной философии" (Journal of Applied Philosophy). Спарроу пишет: "В идеале война должна вестись таким образом, чтобы впоследствии можно было выявить ответственных за смерть мирных людей, погибших в ходе конфликта, и определить степень их вины. Поскольку убийства, совершенные автономными роботами, не могут быть оценены с этой точки зрения - понятие "ответственность" к ним в принципе неприменимо, - разработка подобных машин должна быть запрещена по этическим соображениям". Между тем автономные машины, способные убивать, уже существуют. В качестве примера можно привести беспилотные самолеты-разведчики, снабженные ракетным вооружением и запрограммированные на уничтожение целей, обладающих набором тех или иных признаков. Подобные аппараты широко использовались американцами в ходе конфликтов на Ближнем Востоке.
В целом идея посылать на передовую автономных роботов - вместо того, чтобы подвергать смертельной опасности живых людей, - выглядит для общества чрезвычайно привлекательно, а потому активно продвигается политиками и военными всех мировых держав. Проблемы начинаются тогда, когда нужно ответить на вопрос: кто именно ответственен за то, что робот ошибся и убил мирного жителя, и кто должен понести наказание? Можно априори винить в случившемся разработчиков, однако Спарроу отмечает: боевые роботы наверняка будут слишком сложны, чтобы можно было точно определить, что послужило причиной неправильной интерпретации цели. Докопаться до того, кто именно допустил критический просчет при его проектировании, будет невероятно трудно. А значит, убийства по ошибке, совершенные роботами, станут принципиально ненаказуемы.
Зарегистрируйтесь сейчас и получите 100 баллов себе на счет!
А разместив ссылку на этот материал Вы получите дополнительные баллы за каждый переход по ней.
Подробнее об условиях акции читайте в правилах.
Военные (боевые) роботы - это идеальное оружие для убийства, представьте себе человекоподобную машину оснащенную всеми видами детекторов инфракрасного, звукового, радарами и тд.., бронированную, имеющий ряд холодного оружия и огнестрельного, а так же возможность использовать человеческого оружия и техники. Робот в отличии от человека не испытывает не жалости не со страдания, даже если кто кинется к нему на колени жалостно умоляя, он его не задумываясь убьет или уничтожит, а если снабдить еще и мыслящим интеллектом и парочку таких забросить во вражескую дивизию, они с легкость вырежут там всех. Роботы - это солдаты будущего, кто первый разработает эффективно действующие портатипы и наладит массовое производство, тот и будет всем рулить
Почитайте рассказик "Вторая модель" Филипа Дика, люди
И посмотрите фильм "Screamers"
А потом толкуйте про всякие ограничители для роботов, если сможете...
Солдат убивает врага не по своему решению. А по решению вышестоящего командования. Приказ идет по военной иерархической цепочке сверху донизу. Это означает что решение об убийстве было принято коллективно. Причем первоисточник приказа может изложить приказ в такой форме, что с юридической точки зрения обвинить его в соучастии в убийстве будет невозможно. Говоря другими словами каждый человек в этой военной иерархической цепочке несет только определенный процент вины, если убитый солдатом не был военным врагом государства. И сумма этих процентов всегда равна 100%. Для каждого соучастника убийства не врага процент вины может колебаться от 0 до 100%. Понятно, что статистика предусматривает гибель в войне определенного процента невиновных людей. При достаточном, для данного случая, качестве программы искусственного интеллекта, процент вины робота равен проценту вины обычного солдата в такой же ситуации. И никогда не равен 100%. Следовательно для передачи военному роботу права убивать людей необходимо выполнить следующие законы военной робототехники: Закон 1: при убийстве по приказу не врага ответственность коллективная по всей военно - иерархической цепочке людей, отдававших приказ, и робота его выполнившего. Процент вины робота при убийстве не врага должен быть меньше 50%. Закон 2: соответствие уровня cофта робота военной задаче. Соответствие определяют люди. Ответственность на них. Закон 3: военный робот по проценту убийств не врагов укладывается в установленную командованием статистическую норму. Ответственность за цифру нормы и ее соблюдение несет военное командование. Командование имеет право опубликовать эту норму во время военных действий и изменять ее. Закон 4: при, несоответствии действий робота его программе, проводится экспертиза и заменяется его электронный мозг. Данные экспертизы архивируются. Закон 5: обязательно наличие в роботе двух разнесенных бортовых регистраторов данных. Параметры регистрации соответствуют закону. Рассмотрим вопрос убийства человека роботом с другой стороны. Высокоразвитая страна применяет против менее развитой страны роботов вместо солдат. В этом случае количество убийств людей уменьшается примерно в 2 раза. Т.к. более развитая страна заменяет размен своего убитого солдата на солдата врага разменом робота на солдата врага. Поскольку в более развитых государствах существуют проблемы с рождаемостью подобный подход представляется вполне справедливым и человечным. В более развитых странах опыт управления людьми выше. Следовательно размен роботов на солдат врага более развитой страной повышает общий уровень управляемости на планете. Т.е. выигрывает все человечество в целом. Если этот размен запретить, тогда высокоразвитые народы на планете просто вымрут из-за неконтролируемой иммиграции, усиления враждебных цивилизации религий, образования и укрупнения военных союзов наиболее быстроразмножающихся государств, милитаризации этих государств и союзов. Кроме того сам факт победы, без человеческих жертв со своей стороны, высокоразвитой цивилизацией в войне против менее развитой цивилизации, чисто психологически снизит вероятность террористической и военной агрессии последних. И обеспечит правопорядок на планете.
Мне кажется, установить причину выбора роботом той или иной цели намного проще, чем обычным "живым" человеком. Машина может протоколировать все свои действия. Спрашивать солдата, почему он решил, что вон тот "мирный житель" ему показался террористом, намного сложнее :) Так что уважаемый профессор из Австралии попал пальцем в небо :)
Уточнение - не просто один фантаст , а Айзек Азимов.
Только Третий закон звучит как "Робот должен заботиться о своей безопасности в той мере, как это не противоречит Первому и Второму законам" (у Вас стоит лишняя "не" ). И эти законы верны только для примитвных Нейронных Сетей - не так. Эти законы верны всегда, независимо от принципов, на которых основаны роботы. Остальное - вопросы реализации.
Ну и относительно цифр: нейронов у человека больше 2 млрд. Гораздо больше - 150 млрд. [ссылка] ;-). И неважно, сколько человек смог соединить: роботов никто на нейронных сетях не будет строить (в ближайшем будущем) - их предназначение совершенно иное.
Ещё давно один фантаст писал, что необходимо создать три правила:
1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться командам, которые ему даёт человек, кроме тех случаев, когда эти команды противоречат первому закону.
3) Робот не должен заботитьчя о своей безопасности, настолько, насколько это не противоречит первому и второму закону. Эти законы не идеальны, так как при внимательном рассмотрении появляется несколько дополнительных вопросов. И эти законы верны только для примитвных Нейронных Сетей (НС). У человека в голове находится >2 млрд. нейронов, а человек смог пока соединить всего около 1000. Так что, до конца света от рорботов нам ещё далеко, а это возможно только при создании мыслящего интелекта как у человека.
Я думаю, тут есть выход: вспомните фильм по роману Азимова "Я робот". Там для подобных случаев в "мозги" робота вбивались несколько правил, а для того чтобы робот не смог нарушить их нужно просто найти способ заставить ЕГО не нарушать их. Например, чтобы робот автоматически "вырубался" при попытке их нарушить...
Думаю, что тема данной статьи сопрна, т.к. робот на много выгодней и безопасней чем человек. Робот не может сойти с ума, да и человеческий фактор ему не грозит. Робота можно починить в отличае от человека, робот может выдержать намного больше повреждений человек.
И самое главное то что не будет никаких человеческих потерь в армии страны которая обладает роботами
Новости партнеров
Добавить комментарий Комментарии, содержащие теги ссылок, проходят премодерацию!
