Современное технологическое общество характеризуется появлением идей радикального преобразования человека. Эти идеи активно обсуждаются учеными и философами в рамках трансгуманистического движения, имеющего черты техноутопического мышления. В философских и околонаучных дискуссиях о человеческом будущем возник своего рода «шантаж» трансгуманизмом. Позиции разделяются между биоконсерваторами, которые негативно оценивают программу человеческого улучшения, указывая на ее разрушительные последствия, и трансгуманистами, которые настаивают на позитивном влиянии технологий на преодоление человеком своих биологических ограничений и улучшение качества жизни. Приводим сокращенную версию статьи шведского философа Ника Бострома, который рассказывает об истории трансгуманистической мысли и рассуждает о технологических перспективах человеческого существования.

Культурные и философские предпосылки

«Комната алхимика», Мартен ван Хемскерк / Wikimedia Commons

Человеческое желание приобретать новые способности является таким же старым, как и сам наш вид. Мы всегда стремились расширять границы нашего опыта в социальном, географическом или интеллектуальном плане. По крайней мере, у некоторых людей существует стремление искать пути в обход каждого препятствия человеческой жизни и счастья.

Обрядовые погребения и фрагменты религиозных произведений показывают, что первобытные люди были обеспокоены смертью близких. Хотя вера в потусторонний мир была общепринятой, это не исключало усилий по продлению земной жизни. В шумерском эпосе о Гильгамеше (ок. 1700 до н.э.) царь отправляется на поиски бессмертия. Гильгамеш узнает, что существует естественное средство – трава, которая растет на дне моря. Он успешно добывает растение, но змея похищает у него траву, прежде чем он успевает съесть чудесное средство. В более поздние времена исследователи искали Фонтан молодости, алхимики трудились, чтобы придумать Эликсир Жизни, а различные школы эзотерического даосизма в Китае стремились к физическому бессмертию с помощью гармонии с силами природы. Граница между мифами и наукой, между магией и технологией была размыта, и почти все мыслимые средства для сохранения жизни так или иначе были использованы. Хотя исследователи сделали много интересных открытий и алхимики изобрели некоторые полезные вещи, такие как новые красители и усовершенствования в металлургии, цель продления жизни оказалась недостижимой.

Поиски преодоления наших естественных пределов, однако, уже давно оцениваются неоднозначно. С одной стороны, есть очарование в идее бессмертия. С другой стороны, существует понятие гордыни: такие стремления запрещены и, если продолжатся, приведут к опасным последствиям.

Средневековые христиане имели противоречивые взгляды на занятия алхимиков, которые пытались преобразовать вещества, создать гомункула в пробирках и изобрести панацею. Некоторые схоласты, следуя учению Августина, считали, что алхимия была богопротивной деятельностью. Раздавались обвинения, что она участвует в вызове демонических сил. Однако другие богословы, такие как Альберт Великий и Фома Аквинский, защищали эту практику.

Устаревшая схоластическая философия, которая доминировала в Европе в средние века, сменилась новой интеллектуальной силой в эпоху Возрождения. Человеческое бытие и мир природы вновь стали законным объектами исследования. Ренессансный гуманизм призвал людей полагаться скорее на собственные наблюдения и собственное суждение, чем считаться с религиозными авторитетами. Ренессансный гуманизм также создал идеал гармоничной личности, высокоразвитой в научном, моральном, культурном и духовном аспектах. Вехой этого периода стала «Речь о достоинстве человека» (1486) Джованни Пико делла Мирандола, которая провозглашает, что человек не имеет готовую форму и несет ответственность за свое формирование:

Мы сделали тебя созданием ни небесным, ни земным, ни смертным, ни бессмертным, чтобы ты мог, как свободный и гордый творец своего бытия, придать себе образ, который предпочитаешь. В твоих силах спуститься к низшим, звериным формам жизни, но ты можешь по своему решению вознестись и к высшему порядку, к жизни божественной.

Век Просвещения, как принято думать, начался с публикации «Нового Органона» (1620) Фрэнсиса Бэкона, который предложил научную методологию, основанную больше на эмпирическом исследовании, чем на априорной аргументации. Бэкон выступал за проект «осуществления всех возможностей», под которым он подразумевал использование науки для достижения господства над природой, с тем чтобы улучшить условия человеческой жизни.

Наследие Возрождения, соединяясь с влиянием Исаака Ньютона, Томаса Гоббса, Джона Локка, Иммануила Канта, маркиза де Кондорсе и других мыслителей, сформировало основу для рационального гуманизма. Этот гуманизм выделяет эмпирическую науку и критический разум – в противовес откровению и религиозным авторитетам – как способы изучения природы и нашего места в ней, а также основания для морали. Трансгуманизм имеет корни в рациональном гуманизме.

После публикации «Происхождения видов» Чарльза Дарвина (1859) появилась возможность увидеть текущую версию человечества не как конечную точку эволюции, но, скорее, как ее раннюю стадию. Рост научного материализма, возможно, также внес свой вклад в убеждение, что технология может улучшить человеческий организм. Например, в 1750 году французский врач и философ-материалист Жюльен Оффре де Ламетри в работе «Человек-машина» утверждал, что «человек всего лишь животное, или собрание пружин, которые заводят друг друга». Если человеческие существа состоят из материи, подчиняясь тем же законам физики, которые работают за пределами нас, то должно быть в принципе возможным научиться манипулировать человеческой природой так же, как мы манипулируем внешними объектами.

Эпоха Просвещения в конечном счете угасла в результате собственных крайностей. Она сменилась современными реакциями против господства инструментального разума и попыток рационально управлять природой, какие можно найти в некоторых постмодернистских произведениях, движении New Age, защите окружающей среды и партий антиглобалисткого движения. Тем не менее наследие Просвещения, в том числе вера в силу человеческого разума и науки, до сих пор является важной составляющей современной культуры. В своей знаменитой статье «Что такое Просвещение?» (1784) Кант резюмировал это следующим образом:

Просвещение – это выход человека из состояния своей незрелости, в котором он пребывает по своей вине. Незрелость есть неспособность пользоваться своим собственным рассудком без руководства со стороны другого. Причиной такой незрелости является не недостаток рассудка, но отсутствие решимости и смелости пользоваться им без руководства со стороны другого. Следовательно, девиз Просвещения: Sapereaude! Имей мужество пользоваться своим умом!

Можно подумать, что главным источником вдохновения для трансгуманизма был Фридрих Ницше, известный своим учением о «сверхчеловеке» (Übermensch):

Я учу вас о сверхчеловеке. Человек есть нечто, что должно быть преодолено. Что вы сделали, чтобы преодолеть его? Все существа до сих пор создавали что-то за пределами себя, а вы хотите быть отливом этой великого потока и даже вернуться к зверям, а не преодолеть человека?

Однако Ницше не имел в виду технологическую трансформацию, но, скорее, способ личностного роста и культурного очищения в исключительных личностях (которые, как он думал, должны были преодолеть истощающую жизнь «рабскую мораль» христианства). Несмотря на некоторые поверхностные сходства с ницшеанской философией, трансгуманизм с его корнями в Просвещении, его акцентом на индивидуальных свободах и гуманистической заботе о благополучии всех людей (и других живых существ), вероятно, имеет столько же, если не больше,сходства с современником Ницше, английским либеральным мыслителем-утилитаристом Джоном Стюартом Миллем.

Теория, научная фантастика и тоталитаризм 20-го века

«О дивный новый мир» (обложка) / Wikimedia Commons

В 1923 году известный британский биохимик Д. Б. С. Холдейн опубликовал статью «Дедал, или наука и будущее». В ней он утверждал, что огромные преимущества будут получены от контроля над собственной генетикой и от науки в целом. Он предсказал более богатое общество с чистой энергией, в котором генетика будет использована, чтобы сделать людей более рослыми, здоровыми и умными, и в котором станет привычным эктогенез (вынашивание плода в искусственных матках).

Работа Холдейна запустила цепочку футурологических дискуссий, включая работу «Мир, плоть и дьявол» Дж. Д. Берналя (1929), который размышлял о колонизации космоса и бионических имплантатах, а также интеллектуальных улучшениях, связанных с продвинутой социологией и психологией; произведения Олафа Стэплдона, философа и писателя-фантаста; эссе «Икар: будущее науки» (1924) Бертрана Рассела. Рассел смотрел более пессимистически, утверждая, что без доброты в мире технологическая мощь будет в основном увеличивать нашу способность вредить друг другу. Авторы научной фантастики побудили многих людей задуматься о будущей эволюции человеческого рода.

Роман «О дивный новый мир» Олдоса Хаксли (1932) имел продолжительное влияние на дебаты о технологической трансформации человека. Хаксли описывает антиутопию, где психологическая обработка, беспорядочное проявление сексуальности, биотехнологии и опиатный наркотик «сома» удерживают население в застое конформистского кастового общества, которое регулируется десятком мировых управляющих. Дети производятся в клиниках репродукции и искусственного вынашивания. Низшие касты химическими средствами задерживаются в росте, с тем чтобы ограничить их физическое и интеллектуальное развитие. С рождения членам каждой касты внушают во время сна с помощью записанных голосов повторяющиеся лозунги официальной «фордистской» религии, их приучают верить, что они принадлежат к лучшей касте.

Общество, изображенное в этом романе, часто сравнивают с другой влиятельной антиутопией 20 века – романом Джорджа Оруэлла «1984». Это произведение показывает более открытую форму угнетения, заключающуюся в вездесущем надзоре «Большого Брата» и жестком полицейском принуждении. Мировые правители у Хаксли, напротив, полагаются на менее очевидные средства (биоинженерное предопределение, психологическая обработка, сома), чтобы не позволить людям мыслить самостоятельно. Поддерживается стадность и половая распущенность, в то время как высокое искусство, индивидуальность, знание истории и романтическая любовь не рекомендуются.

Следует отметить, что ни в романе «1984», ни в романе «О дивный новый мир» технология не используется для увеличения человеческих способностей. Скорее, общество построено на подавлении полного развития человечества. Обе утопии сворачивают научные и технологические исследования из-за страха нарушить социальное равновесие. Однако «О дивный новый мир» в особенности стал символом антигуманного использования технологий с целью поощрения социального конформизма и удовлетворения инстинктов.

В первые десятилетия 20 века не только расисты и правые идеологи, но и ряд левых прогрессивных деятелей беспокоились о воздействии медицины и социального обеспечения на качество человеческого генофонда. Они полагали, что современное общество позволило многим «непригодными» людям выжить, людям, которые в предшествующих столетиях просто погибли бы, и они опасались, что это приведет к ухудшению человечества. В результате многие страны (в том числе США, Канада, Австралия, Швеция, Дания, Финляндии и Швейцария) осуществляли государственные программы евгеники, которые в различной степени нарушали права личности. В Соединенных Штатах, между 1907 и 1963 годами порядка 64 000 человек были насильно стерилизованы в соответствии с законодательством о евгенике. Основными жертвами американской программы были умственно отсталые. Однако глухие, слепые, эпилептики, калеки, сироты и бездомные также иногда становились мишенью программы. Но даже такая широко распространенная принудительная стерилизация меркнет в сравнении с программой немецкой евгеники, которая привела к систематическому убийству миллионов людей, которых нацисты считали «неполноценными».

В послевоенный период многие оптимистически настроенные футуристы, относясь с подозрением к коллективистским социальным преобразованиям, нашли новое пристанище для своих надежд в научно-техническом прогрессе. Космические путешествия, медицина и компьютеры, казалось, предлагали путь к лучшему миру. Смена внимания также отражала захватывающий темп развития в этих областях. Научные исследования стали догонять умозрительные спекуляции. Трансгуманистические темы этого периода обсуждались главным образом в научно-фантастической литературе. Такие авторы, как Артур Кларк, Айзек Азимов, Роберт Хайнлайн и Станислав Лем, исследовали, насколько глубоко технологическое развитие может изменить человеческое состояние.

Слово «трансгуманизм», по-видимому, впервые было использовано братом Олдоса Хаксли выдающимся биологом Джулианом Хаксли. В работе «Религия без откровения» (1927) он писал:

Человеческий вид может, если пожелает, превзойти себя – не только от случая к случаю, – но в целом, в масштабе всего человечества. Нам нужно название для этой новой веры. Возможно, «трансгуманизм» послужит таким названием: человек остается человеком, но превзойдет себя, реализуя новые возможности своей человеческой природы.

Технологические демоны: искусственный интеллект, сингулярность, нанотехнологии и загрузка сознания

Обложка х/ф «Запретная планета» (1956) / Wikimedia Commons

Человеческое воображение всегда пленяли человекоподобные автоматы. Инженеры-механики, начиная с древних греков, строили умные самодвижущиеся устройства.

В иудейской мистике «голем» является оживленным существом, созданным из неживой материи. Голем может быть создан святым, который обладает частью Божественной мощи. Иметь голема слугой считалось высшим символом мудрости и святости. В более поздних легендах голем становится созданием кощунствующих мистиков, которые неизбежно наказывались за свое святотатство. Легенда об ученике чародея является вариацией этой темы: ученик оживляет метлу, чтобы она принесла воду, но не в состоянии ее остановить. Подобно роману о Франкенштейне, эта история затрагивает проблему вышедшей из-под контроля технологии. Слово «робот» было придумано чешским писателем Карелом Чапеком в своей мрачной пьесе «R.U.R.» (1921), в которой рабочий робот уничтожает своих человеческих создателей. С изобретением компьютера идея человекоподобных автоматов перешла из детского сада мифологии в школу научной фантастики и, в конце концов, добралась до университета технологического прогнозирования.

Может ли дальнейший прогресс в области искусственного интеллекта (ИИ) привести к созданию машин, которые думают так же, как люди? Алан Тьюринг дал рабочее определение этому вопросу в своем классическом труде «Вычислительные машины и разум» (1950) и предсказал, что компьютеры в конечном итоге пройдут тест Тьюринга. В тесте Тьюринга человек-экспериментатор беседует с компьютером и еще одним человеком с помощью текстового интерфейса. Компьютер успешно достигает цели, если экспериментатор не может достоверно отличить его от человека.

Много копий было сломано в дебатах по вопросу, демонстрирует ли этот тест необходимое и достаточное условие для способности компьютера думать. Но важнее с практической точки зрения оказался вопрос, смогут ли, и если смогут, то когда, компьютеры сравняться с интеллектуальной производительностью человека при решении неспецифических задач. Задним числом мы можем сказать, что многие из ранних исследователей ИИ оказались слишком оптимистичными в сроках для этого гипотетического развития. Конечно, тот факт, что мы еще не достигли человеческого уровня в искусственном интеллекте, не означает, что мы никогда не сможем этого сделать. Некоторые исследователи, например, Марвин Минский, Ханс Моравек, Рэй Курцвейл и Ник Бостром, выдвинули доводы в пользу того, что это может произойти в первой половине 21 века.

Скорость технических изменений, естественно, приводит к идее о том, что продолжение технологических инноваций в огромной степени повлияет на человечество в ближайшие десятилетия. Это предсказание укрепляется, если учитывать, что некоторые из этих переменных, которые в настоящее время показывают экспоненциальный рост, продолжат его и дальше. Гордон Э. Мур, один из основателей компании «Intel», заметил в 1965 году, что количество транзисторов на чипе показывает экспоненциальный рост. Это привело к формулировке «закона Мура», который приблизительно гласит, что вычислительная мощность компьютеров удваивается с интервалом от восемнадцати месяцев до двух лет. Позднее Курцвейл документально зафиксировал аналогичные показатели экспоненциального роста в ряде других технологий. Интересно отметить, что мировая экономика, общий индекс производственных мощностей человечества, удваивается примерно каждые пятнадцать лет.

Гипотеза сингулярности полагает, что эти изменения приведут к некоему континуальному разрыву. Но в наше время это часто относится к более конкретному предсказанию: а именно, что создание самосовершенствующегося искусственного интеллекта приведет в какой-то точке к радикальным изменениям в течение очень короткого промежутка времени.

Трансгуманисты сегодня занимают различные позиции по вопросу сингулярности. Некоторые видят ее в качестве возможного сценария, другие считают более вероятным, что никогда не произойдет очень неожиданных и драматических изменений в прогрессе искусственного интеллекта.

Идея сингулярности также появляется в эсхатологической версии, которая ведет свое происхождение от работ Пьера Тейяра де Шардена, палеонтолога и теолога. Он увидел цель эволюции в развитии ноосферы (глобального сознания). В своих идеях он опирался на взгляды физика Франка Типлера, который утверждал, что развитые цивилизации могут иметь определяющее влияние на будущее развитие космоса, и в последние минуты Большого Сжатия смогут извлечь бесконечное количество вычислений за счет использования всей энергии коллапсирующей материи. Однако пока эти идеи привлекают тех, кто предпочитает союз между мистицизмом и наукой, они не становятся модными среди трансгуманистов или более крупного научного сообщества. Общее положение, которое трансгуманисты могут использовать в этом контексте, состоит в том, что нам нужно научиться думать о «мировоззренческих вопросах», не выдавая желаемое за действительное и не прибегая к мистицизму.

Возможность нанотехнологии предвидел лауреат Нобелевской премии физик Ричард Фейнман в своей речи 1959 года под названием «Там, внизу, полно места». В 1986 году Эрик Дрекслер опубликовал «Машины создания», первую книгу с изложением молекулярного производства. В этой основополагающей работе Дрекслер не только выступал за возможность нанотехнологий, но также исследовал их последствия и начал намечать стратегические проблемы, связанные с их развитием.

Мейнстрим научного сообщества стремился дистанцироваться от заявлений Дрекслера. На сегодняшний день, однако, техническая критика Дрекслера не нашла каких-либо существенных недостатков в его рассуждениях. Если молекулярная нанотехнология действительно физически возможна, как утверждает Дрекслер, то возникает вопрос, насколько трудно будет ее развивать, и какое время это займет. Эти вопросы являются крайне сложными, чтобы решить их заранее.

Молекулярная нанотехнология позволит нам превращать уголь в алмазы, песок в суперкомпьютеры, а также удалять загрязнения из воздуха и опухоли из здоровых тканей. В своей зрелой форме они позволят нам уничтожить большинство болезней и старение, сделает возможным оживление крионических пациентов, откроет доступное пространство колонизации, и – более зловеще – приведет к созданию летального или нелетального оружия.

Другой гипотетической технологией, которая будет иметь революционное воздействие, является загрузка сознания, то есть перенос человеческого разума в компьютер. В случае успеха загрузки исходное сознание с памятью и нетронутой личностью будет перенесено в компьютер, где затем будет существовать как программное обеспечение, и сможет либо обитать в теле робота, либо жить в виртуальной реальности. Хотя часто рассуждают, что при подходящих условиях исходная личность продолжит существовать при переносе в новую среду, отдельные трансгуманисты придерживаются различных мнений в этих философских вопросах.

Если сверхинтеллект, молекулярная нанотехнология и загрузка сознания или какая-либо другая революционная технология будет разработана, состояние человека, очевидно, может радикально преобразиться. Даже если такая вероятность в ближайшее время достаточно мала, эти перспективы, тем не менее, заслуживают серьезного внимания ввиду их радикальных последствий.

Мы не знаем, что произойдет, но несколько тонких ограничений позволяют нам сузить диапазон представлений о будущем человечества и нашем месте во Вселенной. Эти ограничения вытекают из различных источников, включая анализ потенциала будущих технологий, экономический анализ, теорию эволюции, теорию вероятности, теорию игр и стратегический анализ, а также космологию. Отчасти из-за междисциплинарного и иногда технического характера этих соображений они не получили широкого понимания. Тем не менее любая серьезная попытка преодолеть долгосрочные последствия технологического развития должна принимать их в расчет.

Биополитика 21-го века: трансгуманисты и биоконсерваторы

Социолог Джеймс Хьюз утверждает, что биополитика появляется как фундаментальное новое измерение политических взглядов. По мнению Хьюза, биополитика соединяется с более привычными измерениями культурной и экономической политики для формирования пространства общественных воззрений. В книге «Гражданин киборг» (2004) Хьюз выдвигает концепцию «демократического трансгуманизма», которая сопрягает трансгуманистическую биополитику с социально-демократической экономикой и либеральной культурной политикой. Он утверждает, что мы достигнем наилучшего постчеловеческого будущего, когда сможем гарантировать, что технологии являются безопасными и доступными для всех, а мы сможем уважать право людей распоряжаться своим телом.

В принципе трансгуманизм может быть объединен с широким кругом политических и культурных взглядов. Одной из нечасто встречающихся комбинаций является связь трансгуманизма с культурно-консервативной точкой зрения. Является ли это причиной неразрешимой напряженности между трансгуманизмом и культурным консерватизмом – остается неясным. С другой стороны, эта комбинация могла возникнуть потому, что еще никто не всерьез пытался разработать такую позицию. Можно себе представить, как новые технологии могут быть использованы для усиления ценностей культурного консерватизма. Например, фармацевтический препарат, который способствует долгосрочному планированию семейной пары, может помочь защитить традиционную семью. По-видимому, разработка путей использования нашей растущей технологической мощи, которые помогут людям осознать универсальные культурные или духовные ценности в их жизни, является подлинной инициативой.

Однако культурные консерваторы тяготели к биоконсерватизму, который выступает против использования технологии для расширения человеческого потенциала или видоизменения разных аспектов нашей биологической природы. Люди, имеющие склонность к биоконсерватизму, приходят из групп, которые традиционно имеют мало общего между собой. Правые религиозные консерваторы, левые экологи и антиглобалисты нашли общее основание, например, в своей оппозиции к генетической модификации человека.

Пути современного биоконсерватизма можно проследить из разнообразных источников. Это древние представления о табу, греческое понятие гордыни, романтический взгляд на природу, религиозные толкования понятия человеческого достоинства и Божественного естественного порядка, движение луддитов против индустриализации, анализ Карлом Марксом техники при капитализме, критика континентальными философами технологии, технократии и рационалистического мышления, противники военно-промышленного комплекса и транснациональных корпораций, наконец, противники потребительской крысиной гонки.

Существует общая основа между биоконсерваторами и трансгуманистами: они соглашаются, что убийство и порабощение людей со стороны постлюдей или наоборот было бы моральным злодеянием и преступлением. Однако трансгуманисты отрицают, что это является следствием генной терапии для укрепления здоровья, памяти, продолжительности жизни или других сходных особенностей в организме человека. Если мы разрабатываем возможность создания некого существа, которое потенциально может уничтожить человеческий род, своего рода сверхразумную машину, то мы могли бы действительно рассматривать это как преступление против человечества, если бы продолжили разработку без тщательного анализа рисков и принятия адекватных мер безопасности.

Есть и другая общность между биоконсерваторами и трансгуманистами. Как те, так и другие согласны с тем, что мы сталкиваемся с реальной перспективой, в которой технология может быть использована для существенного преобразования условий человеческого существования в этом столетии. Как те, так и другие согласны с тем, что это налагает на нынешнее поколение необходимость думать о практических и этических последствиях. Как те, так и другие озабочены медицинскими рисками, связанными с побочными эффектами, хотя биоконсерваторы более беспокоятся о том, что технологии могут добиться успеха, чем потерпеть неудачу.

Оба лагеря соглашаются, что технологии в целом, и медицина в частности, имеют разумное основание, хотя биоконсерваторы, как правило, выступают против использования многих видов лекарств, которые выходят за рамки терапии. Обе стороны осуждают расистские и принудительные государственные программы евгеники в 20-м веке. Биоконсерваторы обратили внимание на возможность того, что хрупкие человеческие ценности могут быть подорваны технологическими достижениями, и, возможно, трансгуманистам следует научиться быть более чувствительными к этим проблемам. С другой стороны, трансгуманисты подчеркивают огромный потенциал для подлинного улучшения человеческого благополучия и процветания, которые достижимы только через технологические преобразования. Биокосерваторам при этом следует быть более внимательными к возможности того, что мы можем реализовать величайшие ценности, отважившись выйти за пределы наших текущих биологических ограничений.

A history of transhumanist thought Источник: Bostrom N.// Journal of Evolution and Technology. Vol. 14.Issue 1. April 2005.