НАУКАОРУЖИЕТЕХНОЛОГИИАВТОМОБИЛИГАДЖЕТЫ
АРХИВБЛОГИВИДЕОКОНКУРСЫАУКЦИОН ПМПОПУЛЯРНЫЙ ЛЕКТОРИЙ


РОБОТЫ-УБИЙЦЫ: ВОЙНА МАШИН КАК ФИЛОСОФСКАЯ ПРОБЛЕМА

 8  8028

Разработка и использование автономных боевых роботов должна быть запрещена по этическим соображением, поскольку в случае убийства по ошибке нельзя будет определить виновного - так считает доктор философии Роберт Спарроу.

Хотя кинематограф обычно представляет боевых роботов вот такими - гигантскими человекоподобными машинами с лазерным оружием... (Фото из фильма "Звездные войны")
...На самом деле они, скорее всего, будут вот такими. На снимке - экспериментальный беспилотный ударный самолет Boeing X-45A, построенный в рамках проекта DARPA UCAV, демонстрирует возможность сброса бомб со спутниковым наведением (Фото из архива NASA Dryden).
Не секрет, что именно военные вкладывают больше всего денег в передовые исследования, связанные с разработкой роботов. В современных армиях роботы применяются в основном для обезвреживания мин и бомб, а также для ведения разведки, однако все чаще их используют в качестве полноценных боевых машин, оснащенных современным вооружением. Как правило, управляет боевым роботом живой оператор, несущий ответственность за все действия вверенного ему устройства. Но если машина принимает решение на поражение цели самостоятельно, ситуация принимает совсем иной оборот.

Моральным аспектам этой проблематики была посвящена статья доктора философии Роберта Спарроу (Robert Sparrow) из Австралийского Университета Монаш, опубликованная в "Журнале прикладной философии" (Journal of Applied Philosophy). Спарроу пишет: "В идеале война должна вестись таким образом, чтобы впоследствии можно было выявить ответственных за смерть мирных людей, погибших в ходе конфликта, и определить степень их вины. Поскольку убийства, совершенные автономными роботами, не могут быть оценены с этой точки зрения - понятие "ответственность" к ним в принципе неприменимо, - разработка подобных машин должна быть запрещена по этическим соображениям". Между тем автономные машины, способные убивать, уже существуют. В качестве примера можно привести беспилотные самолеты-разведчики, снабженные ракетным вооружением и запрограммированные на уничтожение целей, обладающих набором тех или иных признаков. Подобные аппараты широко использовались американцами в ходе конфликтов на Ближнем Востоке.

В целом идея посылать на передовую автономных роботов - вместо того, чтобы подвергать смертельной опасности живых людей, - выглядит для общества чрезвычайно привлекательно, а потому активно продвигается политиками и военными всех мировых держав. Проблемы начинаются тогда, когда нужно ответить на вопрос: кто именно ответственен за то, что робот ошибся и убил мирного жителя, и кто должен понести наказание? Можно априори винить в случившемся разработчиков, однако Спарроу отмечает: боевые роботы наверняка будут слишком сложны, чтобы можно было точно определить, что послужило причиной неправильной интерпретации цели. Докопаться до того, кто именно допустил критический просчет при его проектировании, будет невероятно трудно. А значит, убийства по ошибке, совершенные роботами, станут принципиально ненаказуемы.

По информации Australian Broadcasting Corporation



Добавлено: 11.08.06
Зарегистрируйтесь сейчас и получите 100 баллов себе на счет!
А разместив ссылку на этот материал Вы получите дополнительные баллы за каждый переход по ней.
Подробнее об условиях акции читайте в правилах.

     


ЧИТАЙТЕ ПО ТЕМЕ


ВНИМАТЕЛЬНАЯ КРАСКА
Цветные нанотрубки

«Умная краска», включающая угольную золу и нанотрубки, сама может следить за состоянием мо...

07/02/12   3


ИСКУССТВЕННАЯ МЕМБРАНА
Шаг к жизни

Совершен еще один шаг к созданию полностью искусственных форм жизни с нуля. Оригинальная х...

06/02/12   1


НОВОСТИ КОСМОНАВТИКИ
27 января – 2 февраля 2012 г.

Американский политик-популист обещает разогнать бюрократов из NASA и построить базу на Лун...

03/02/12   9


ЧТОБЫ ОСТЫЛИ
На митинг – через лабиринт

Протестное движение набирает силу во многих странах мира, и все, связанное с ним, быстро о...

02/02/12   33

КОММЕНТАРИИ (8)
Написать комментарий:





Strog
Добавлено 26.02.10 11:58
- 0 +
Военные (боевые) роботы - это идеальное оружие для убийства, представьте себе человекоподобную машину оснащенную всеми видами детекторов инфракрасного, звукового, радарами и тд.., бронированную, имеющий ряд холодного оружия и огнестрельного, а так же возможность использовать человеческого оружия и техники. Робот в отличии от человека не испытывает не жалости не со страдания, даже если кто кинется к нему на колени жалостно умоляя, он его не задумываясь убьет или уничтожит, а если снабдить еще и мыслящим интеллектом и парочку таких забросить во вражескую дивизию, они с легкость вырежут там всех. Роботы - это солдаты будущего, кто первый разработает эффективно действующие портатипы и наладит массовое производство, тот и будет всем рулить


Цитировать
kaff
Добавлено 27.05.09 07:50
- 0 +
Почитайте рассказик "Вторая модель" Филипа Дика, люди
И посмотрите фильм "Screamers"
А потом толкуйте про всякие ограничители для роботов, если сможете...


Цитировать
robot6@rambler.ru
Добавлено 24.03.09 17:56
- 0 +
Солдат убивает врага не по своему решению. А по решению вышестоящего командования. Приказ идет по военной иерархической цепочке сверху донизу. Это означает что решение об убийстве было принято коллективно. Причем первоисточник приказа может изложить приказ в такой форме, что с юридической точки зрения обвинить его в соучастии в убийстве будет невозможно. Говоря другими словами каждый человек в этой военной иерархической цепочке несет только определенный процент вины, если убитый солдатом не был военным врагом государства. И сумма этих процентов всегда равна 100%. Для каждого соучастника убийства не врага процент вины может колебаться от 0 до 100%. Понятно, что статистика предусматривает гибель в войне определенного процента невиновных людей. При достаточном, для данного случая, качестве программы искусственного интеллекта, процент вины робота равен проценту вины обычного солдата в такой же ситуации. И никогда не равен 100%. Следовательно для передачи военному роботу права убивать людей необходимо выполнить следующие законы военной робототехники: Закон 1: при убийстве по приказу не врага ответственность коллективная по всей военно - иерархической цепочке людей, отдававших приказ, и робота его выполнившего. Процент вины робота при убийстве не врага должен быть меньше 50%. Закон 2: соответствие уровня cофта робота военной задаче. Соответствие определяют люди. Ответственность на них. Закон 3: военный робот по проценту убийств не врагов укладывается в установленную командованием статистическую норму. Ответственность за цифру нормы и ее соблюдение несет военное командование. Командование имеет право опубликовать эту норму во время военных действий и изменять ее. Закон 4: при, несоответствии действий робота его программе, проводится экспертиза и заменяется его электронный мозг. Данные экспертизы архивируются. Закон 5: обязательно наличие в роботе двух разнесенных бортовых регистраторов данных. Параметры регистрации соответствуют закону. Рассмотрим вопрос убийства человека роботом с другой стороны. Высокоразвитая страна применяет против менее развитой страны роботов вместо солдат. В этом случае количество убийств людей уменьшается примерно в 2 раза. Т.к. более развитая страна заменяет размен своего убитого солдата на солдата врага разменом робота на солдата врага. Поскольку в более развитых государствах существуют проблемы с рождаемостью подобный подход представляется вполне справедливым и человечным. В более развитых странах опыт управления людьми выше. Следовательно размен роботов на солдат врага более развитой страной повышает общий уровень управляемости на планете. Т.е. выигрывает все человечество в целом. Если этот размен запретить, тогда высокоразвитые народы на планете просто вымрут из-за неконтролируемой иммиграции, усиления враждебных цивилизации религий, образования и укрупнения военных союзов наиболее быстроразмножающихся государств, милитаризации этих государств и союзов. Кроме того сам факт победы, без человеческих жертв со своей стороны, высокоразвитой цивилизацией в войне против менее развитой цивилизации, чисто психологически снизит вероятность террористической и военной агрессии последних. И обеспечит правопорядок на планете.


Цитировать
Ars
Добавлено 05.09.07 14:29
- 0 +
Мне кажется, установить причину выбора роботом той или иной цели намного проще, чем обычным "живым" человеком. Машина может протоколировать все свои действия. Спрашивать солдата, почему он решил, что вон тот "мирный житель" ему показался террористом, намного сложнее :) Так что уважаемый профессор из Австралии попал пальцем в небо :)


Цитировать
     ONLINE

Написать личное сообщение
Дмитрий Мамонтов
Редакция «ПМ»
Зарегистрирован: 21.05.08
Сообщений: 42
Комментариев: 6634
Рейтинг: 6035.00
Баллов на счету: 6035
Добавлено 27.04.07 19:27
- 0 +
Уточнение - не просто один фантаст , а Айзек Азимов.
Только Третий закон звучит как "Робот должен заботиться о своей безопасности в той мере, как это не противоречит Первому и Второму законам" (у Вас стоит лишняя "не" ).
И эти законы верны только для примитвных Нейронных Сетей - не так. Эти законы верны всегда, независимо от принципов, на которых основаны роботы. Остальное - вопросы реализации.
Ну и относительно цифр: нейронов у человека больше 2 млрд. Гораздо больше - 150 млрд. [ссылка] ;-). И неважно, сколько человек смог соединить: роботов никто на нейронных сетях не будет строить (в ближайшем будущем) - их предназначение совершенно иное.


Цитировать
Razor
Добавлено 27.04.07 18:52
- 0 +
Ещё давно один фантаст писал, что необходимо создать три правила:
1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться командам, которые ему даёт человек, кроме тех случаев, когда эти команды противоречат первому закону.
3) Робот не должен заботитьчя о своей безопасности, настолько, насколько это не противоречит первому и второму закону. Эти законы не идеальны, так как при внимательном рассмотрении появляется несколько дополнительных вопросов. И эти законы верны только для примитвных Нейронных Сетей (НС). У человека в голове находится >2 млрд. нейронов, а человек смог пока соединить всего около 1000. Так что, до конца света от рорботов нам ещё далеко, а это возможно только при создании мыслящего интелекта как у человека.


Цитировать
NITRO
Добавлено 12.08.06 21:44
- 0 +
Я думаю, тут есть выход: вспомните фильм по роману Азимова "Я робот". Там для подобных случаев в "мозги" робота вбивались несколько правил, а для того чтобы робот не смог нарушить их нужно просто найти способ заставить ЕГО не нарушать их. Например, чтобы робот автоматически "вырубался" при попытке их нарушить...


Цитировать
Sladko
Добавлено 12.08.06 15:16
- 0 +
Думаю, что тема данной статьи сопрна, т.к. робот на много выгодней и безопасней чем человек. Робот не может сойти с ума, да и человеческий фактор ему не грозит. Робота можно починить в отличае от человека, робот может выдержать намного больше повреждений человек.
И самое главное то что не будет никаких человеческих потерь в армии страны которая обладает роботами


Цитировать
ИК-камуфляж превращает автомобиль в танк. ВИДЕО
Ученые против рака: что придумали в 2011 году
Управляемая пуля прошла полевые испытания
ПОПУЛЯРНЫЙ
ЛЕКТОРИЙ
МОСКВА
  ТЕМА  
  ЛЕКЦИИ:  
  «ЖИВОТНЫЙ»  
  СЕКС  
Рождение через «мужской» половой орган, влияние детских воспоминаний на выбор партнера, преимущества «женоподобных» самц...
07 февраля
варфарин инструкция по применению
ТОП 5 ТЕМ
Т-90 ПРОТИВ АБРАМСА
Довольно часто в СМИ можно встретить утверждения, о том, что Т-90 в нынешнем виде уже не м...

02/03/09   29993
ОРУЖИЕ ПОБЕДЫ
От гранаты до истребителя

Бытует мнение, что Советский Союз одержал победу в Великой Отечественной войне скорее числ...

21/04/09   16589
ВЕРТИКАЛЬНЫЕ КРЫЛЬЯ
Крестик в небе

Для выполнения новых фигур высшего пилотажа аэробатический самолет будет оснащен второй па...

02/02/12   6
ХИТРАЯ ДУРА
Пуля с самоконтролем

И новобранец сможет стрелять как снайпер: изобретена пуля с системой самонаведения.

01/02/12   47
CHENGDU J-20
Создание J-20 ознаменовало важнейший успех китайской авиационной промышленности. И дело в...

01/03/11   52
© 2002-2011 ООО «Фэшн Пресс»,
© 2002-2011 Sanoma Independent Media.

Перепечатка и любое воспроизведение
материалов сайта возможны лишь с
письменного разрешения ООО «Фэшн Пресс».

Создание сайта «Insight-Studio»

Rambler's Top100 Рейтинг@Mail.ru Фабрика шуб представляет: лучшие шубы из норки роботы-убийцы: от российского производителя!
САЙТ
Обои
Опросы
Правила
Правовая информация
Контакты
RSS
РЕКЛАМА
Реклама в журнале
Реклама на сайте
Реклама в iPad
Реклама в мобильных
приложениях
ЖУРНАЛ
Архив
Подписка на журнал
Блог редакции
Письмо в редакцию
НОВЫЙ НОМЕР
Читать на сайте
в iPad
в iPhone
в Android
в Samsung bada