Когда будет создан искусственный мозг?

Когда будет создан искусственный мозг?

Руководитель проекта Blue Brain Генри Маркрам рассказывает о том, что нужно, чтобы построить компьютер, возможности которого сравняются с возможности человеческого мозга, и какие опасности подстерегают человечество на этом пути.

Этим летом журнал Института инженеров электротехники и электроники IEEE Spectrum опубликовал ответы известных учёных и популяризаторов науки на вопрос о том, когда человечество сможет построить действующую модель человеческого мозга и чего нам ждать от такой модели. Мы приводим ответ Генри Маркрама — человека, который знает о мозге и его искусственных аналогах больше всех. Уже четыре года Маркрам руководит проектом Blue Brain, цель которого — детальная реконструкция мозга животных, а в долгосрочной перспективе — и человеческого.

Генри Маркрам, нейрофизиолог, руководитель проекта Blue Brain Генри Маркрам, нейрофизиолог, руководитель проекта Blue Brain

Когда компьютеры станут способны на всё, на что способен человеческий мозг?

Мозг — это сеть сетей генов, белков, клеток, синапсов и более крупных структур, существующих в неисчислимом количестве измерений и работающих в непрестанно меняющем свойства коктейле из нейромедиаторов и других важных веществ. Наше восприятие, движения, мысли и чувства рождаются из цепных реакций электрической, химической и механической природы, которые возникают в этих сетях. Сегодня у нас нет никаких данных, которые позволили бы пренебречь какими-либо из этих реакций, и до тех пор, пока ситуация не изменится, единственный доступный нам способ создать машину, способную на то, на что способен мозг — это тщательно реконструировать все до единой реакции. То, когда мы сможем это сделать, зависит от степени детализации, которая нам понадобится.

Я предлагаю отказаться от попыток рассчитать срок, за который мы сможем воссоздать мозг с точностью до каждой его молекулы. Чтобы симулировать человеческий мозг с такой степенью детализации, нам потребовались бы йоттафлопсы (1024 операций в секунду) вычислительной мощности, а это в миллионы раз превосходит возможности самых мощных суперкомпьютеров, существующих сегодня. Для симуляции мозга мыши потребуются зеттафлопсы (1021 операций в секунду), а для мозга лобстера — экзафлопсы (1018). Вычислительная мощность самых современных компьютеров измеряется в сотнях петафлопс (1015): этого едва хватит на грубую симуляцию нервной системы червя вроде коловратки. (Прим. пер. Коловраток (автор называет конкретный таксон — Rotifera) сегодня не причисляют, как раньше, к первичнополостным червям, а выделяют в отдельную группу. Нервная система у них довольно примитивна и состоит из надглоточного ганглия и нескольких нервных стволов).

Суперкомпьютер IBM Blue Gene/Q Суперкомпьютер IBM Blue Gene/Q На этой машине Маркрами и его коллеги моделируют отдельные участки крысиного мозга. Предельная скорость вычислений на сегодняшний день составляет 20 петафлопс (операций в секунду).

Чтобы обеспечить электроэнергией компьютеры, способные обработать очень детальную симуляцию человеческого мозга, понадобится целая атомная электростанция. Мозг можно накормить одним бананом; это сравнение позволяет осознать, насколько наша технология ещё отстаёт от природы.

Если нам наконец удастся обобщить происходящее на молекулярном уровне и выйти на уровень отдельных клеток, задача значительно упростится. За несколько десятков лет мобильные устройства достигнут пета- и экзафлопс вычислительной мощности, или по крайней мере смогут работать с такой скоростью с помощью облачных технологий.

А значит, цифровые копии мозга с небольшой степенью детализации можно будет создавать на мобильных устройствах ещё до конца XX века, а вместе с ними — более детализированные модели мышиного мозга, симуляции мозга птиц, мух, пчёл и муравьёв с вполне удовлетворительным разрешением.

Попробуем допустить, что для того, чтобы воссоздать основные процессы, происходящие в мозге, необязательно углубляться в тонкости клеточной структуры, и можно рассматривать клетки как узлы сети. Тогда мозг можно свести к нейросети на точечных отображениях. Если такая нейросеть будет работать примерно так же, как мозг, то даже существующих мощностей хватит на то, чтобы создать рабочую модель. Проблема в том, что для такой редукции сложной системы мозга к нейросети нам нужна подробная модель высокого разрешения. Начать строить такую модель возможно уже сейчас — если хватит человеческих ресурсов и денег.

Мы можем пойти дальше и пренебречь миллиардами лет итераций биологического дизайна, опустить все сложные химические и клеточные взаимодействия и скопировать только процессы ввода и вывода информации, уподобив человеческий мозг набору алгоритмов глубокого обучения. Тогда у мы, возможно, добьемся производительности, подобной производительности мозга, уже очень скоро. Допущения, которые мы себе позволили, довольно рискованны, но тот, кто сможет заставить этот план работать, выиграет по‑крупному; на кону здесь — полноценный искусственный интеллект.

Самый главный вопрос звучит так: сможем ли мы опередить эволюцию, догнав и перегнав человеческий разум? Здесь важно понимать, что каждая часть мозга глубоко связана с остальным телом и его средой обитания, физической, социальной и культурной. Примерно миллиард молекул в каждой из триллионов клеток тела поют свою песню в унисон с миром.

Мы не наблюдаем Вселенную со стороны; мы — её неотъемлемая часть. Количество уровней погружения одного в другое практически бесконечно. Некоторые люди верят в то, что, если взять Будду за образец и медитировать достаточно долго, можно слой за слоем сорвать с себя эту многоуровневую структуру, выкарабкаться наружу, полностью извлечь себя из глубин реальности. Эпилептический припадок, состояние, близкое к предсмертному, наркотический трип или яркая фантазия способны на краткий срок прервать эту многоуровневую связь с миром, но связь сильна и глубока, и нас возвращает обратно — домой.

Разум человека — это не умение играть в шахматы или го, водить машину или даже мгновенно принимать решения, основываясь на больших объёмах данных. Разум — это вовлечение в окружающую среду. Чем глубже будут связи искусственного интеллекта с миром, тем разумнее он станет. Но насколько далеко нужно зайти на этом пути?

Каждый вид строит для себя собственную, уникальную модель мира в бесконечном числе измерений, и в этой модели копирует сущности этого мира, связанные с реальностью на стольких уровнях, сколько требуется для того, чтобы выжить и оставить потомство. Птицы, которые подбирают хлебные крошки на улицах, знают, как ведут себя люди и машины, и запоминают места, в которые лучше не соваться. Но им не нужно идти дальше и пытаться понять, почему люди или машины ведут себя именно так. Люди погружаются в мир гораздо глубже.

Так же, как мозг птиц и других животных, человеческий мозг — это продукт эволюции и индивидуального опыта, который меняет всё вплоть до химических реакций. Но, в отличие от мозга животного, устроенного более просто, наш мозг работает ещё и в культурном контексте, который открывает нам доступ к практически бесконечному опыту и знаниям. Мозг каждого человека использует этот опыт своим неповторимым способом; каждый создаёт собственную модель мира, а в ней — модели мозга других людей; и каждый человек пользуется этими моделями, чтобы воспроизводить самим им созданный мир, понимать его и действовать в нём. Непонятно, что вообще означает человеческий мозг «в вакууме». Только бесконечно глубокое вовлечение делает нас такими особенными.

Эволюция породила сеть, существующую в бесконечном числе измерений, строящую модели равно бесконечномерного мира и глубоко слитую с ним. Если ИИ достигнет такого же уровня погружения в окружающий мир, он сравняется с человеком и даже превзойдёт его.

Есть ли у вас опасения по поводу будущего, в котором действуют компьютеры, наделённые сверхчеловеческим разумом?

Только сейчас мы начинаем понимать, что в человеческом мозге уже заложены сверхчеловеческие способности. Мозг каждого человека — это знания и опыт, упорядоченные на множестве уровней. Эти знания и опыт накапливались поколениями предков и продолжают накапливаться в течение жизни каждого поколения; каждый человек вносит свою лепту. Вместе с физическим миром и культурной средой мозг человека моделирует и технологии, которые создаёт человечество, в том числе и все попытки создать искусственный мозг. Поэтому даже создав алгоритмы с «более высоким IQ», умеющие лучше нас решать задачи, даже наделив машины способностью создавать улучшенные версии самих себя мы не приблизимся к созданию машины, превосходящей человеческий разум.

Я переживаю не столько за то, сможем ли мы дать искусственному интеллекту сверхчеловеческие возможности, сколько за отдельные вехи, которые мы успешно пройдём на этом пути. Мне представляется кладбище частично успешных версий; оно огромно, оно хранит память о множестве ошибок. Много опасностей подстерегает человечество на пути через эту долину смерти.

Чтобы искусственный интеллект не стал для человека тем, чем автомобиль кажется птице, нам нужно задуматься о том, насколько наши творения должны быть вовлечены в общественную жизнь: какие задачи мы ставим перед ними, решение каких оставляем за собой, что и как мы позволим им узнать о нас, как и чему мы сами будем учиться у них.

А если мы наделим их своими чувствами и желаниями, то получим всё то, что встречаем в Homo sapiens, от дурного до хорошего. Возьмём, к примеру, страх: он вызывает «короткое замыкание», выключающее из цепочки самые прогрессивные области мозга, и разрывает ту глубокую взаимосвязь с миром, которая делает нас разумными. Это даёт нам возможность сосредоточиться на том, что необходимо в данный момент — на выживании. Вряд ли такие короткие замыкания нужны искусственному сверхразуму — особенно если мы дадим ему власть и возможность принимать решения.

Человек осознаёт только малую часть воспринимаемых данных об окружающем мире. На множестве уровней сведения о мире обрабатываются без участия сознания.

Большую часть жизни мы не знаем, почему ведем себя так, а не иначе; мы проживаем жизнь, постоянно открывая самих себя. Система, обладающая сверхчеловеческими способностями, будет устроена иначе.

У такой системы будет не только больше уровней вовлечения в окружающий мир, у неё будет ещё и полный доступ ко всем этим уровням; сознание так систем будет в этом смысле абсолютным.

Если я прав и разум — это действительно результат вовлечения в окружающий мир, искусственные сущности со сверхчеловеческими способностями могут оказаться намного более разумными, чем люди, и гораздо гуманнее нас. Опасаться следует не их, а более простых вариантов искусственного интеллекта, наделённ человеческими страстями и чувствами, такими как страх, но лишёнными глубоких связей с миром, которые вписывают эти чувства и желания в контекст мироздания.

Статья впервые опубликована в журнале IEEE Spectrum под заголовком Henry Markram Talks Brain Simulation. (Генри Маркрам о симуляции мозга). О том, как участники проекта Blue Brain моделируют структуру мозга, можно прочитать на сайте Биомолекулы.

Комментарии

Авторизуйтесь или зарегистрируйтесь,
чтобы оставлять комментарии.