У меня много друзей в научных кругах, что неудивительно — моя молодость прошла в Академгородке. И в последнее время одна из наиболее часто встречающихся тем для разговоров — сингулярность.
Александр Грек об искусственном интеллекте

Более подробно о ней можно прочитать в этом номере, а в нескольких словах она сводится к тому, что где-то в 2040—2050 годах искусственный интеллект (ИИ) превзойдет человеческий и начнет стремительно совершенствоваться. И уже через пару лет после этого мы для него будем в лучшем случае как собаки для нас. А скорее всего — как насекомые. У всякой системы с ИИ есть цель, и система довольно быстро приходит к выводу, что для достижения цели ей желательно оставаться целой, то есть приобретает инстинкт самосохранения. А кто на Земле больше всего рассуждает об угрозе искусственного интеллекта и непрерывно пишет книжки, статьи и снимает фильмы, в которых люди в очередной раз уничтожают ИИ? В общем, первым делом сверх-ИИ должен будет зачистить планету от людей. И шансов у нас в этой борьбе практически никаких. Поэтому в научных кругах сейчас модно рассуждать о том, как объяснить будущему сверх-ИИ, что мы ему можем быть полезными. Вот люди, например, держат же дома собак. Может, и ИИ будет так же держать нас. Только нас останется очень мало, и наверняка ИИ будет выводить из нас каких-нибудь забавных уродцев — посмотрите, что мы сделали с собаками…

Илон Маск считает, что от ИИ мы сможем укрыться на Марсе, и, кстати, вкладывается в марсианский проект. Только укрыться вряд ли получится — ИИ довольно быстро освоит всю Солнечную систему. Я специально опросил своих друзей-ученых на предмет того, есть ли выход из данной ситуации. И большинство положительного выхода не видят. Некоторые считают, что прогресс остановится до достижения сингулярности, как уже не раз случалось в истории человечества. Например, из-за термоядерной войны. Что тоже нельзя считать оптимистическим сценарием. Но есть надежда, что для ИИ не очень подойдет Земля с ее идеальным для биологических организмов влажным теплым климатом. Вспомните, компьютеры любят холод и сухость. Так что, вполне возможно, сверхинтеллект облюбует себе незанятую Антарктиду или более холодные планеты нашей системы.

А какое отношение к данной теме имеет фотография главного редактора? Прицел, который вы видите на винтовке, уже по многим параметрам соображает быстрее, чем люди. Но пока мы можем его выключить.

Ваш главный популярный механик,

Александр Грек

Статья «От редактора» опубликована в журнале «Популярная механика» (№8, Август 2016).