Философ Ник Бостром, известный своими предупреждениями о рисках искусственного интеллекта, продолжает рассматривать возможность «постчеловеческого будущего». Он предполагает, что люди смогут постепенно расширить свои ментальные возможности и открыть для себя новые формы существования. В то же время Бостром подчеркивает важность сохранения того ценного, чем человечество обладает уже сегодня.
Об этом Бостром рассказал в подкасте Interesting Times во время беседы с ведущим Спенсером Клаваном. Разговор касался его ранней статьи «Why I Want to Be a Posthuman When I Grow Up» («Почему я хочу стать постчеловеком, когда вырасту»), возможного продления человеческой жизни и перспектив трансформации человечества.
Клаван спросил Бострома, изменил ли философ своё мнение относительно идей, изложенных в этой работе. Бостром ответил, что по-прежнему разделяет их, однако считает важной саму траекторию развития человека.
Автор теории экзистенциальной угрозы ИИ объяснил, почему теперь изучает последствия успеха этой технологии
По словам философа, вместо того чтобы прожить несколько десятилетий, накопить опыт и мудрость, а затем столкнуться с разрушением мозга, потерей воспоминаний и «старческим слабоумием», люди могли бы получить больше времени. Одним из возможных путей он называет терапию для продления жизни, которая позволила бы уменьшить страдания и не торопиться в поисках того, чем стоит заниматься.
«Есть люди, которые находят большую ценность в плетении корзин, другие любят ходить под парусом, кто-то становится музыкантом или просто изучает все эти великие книги… Большую книгу не хочется просто быстро пробежать глазами. С ней нужно пожить некоторое время, чтобы по-настоящему постичь её без спешки», — отметил Бостром.
В то же время Бостром допускает, что даже 150, 500 или 2000 лет жизни могут в конечном итоге перестать казаться достаточными. Он добавляет, что после длительного периода существования человек может почувствовать, что полностью реализовал себя в привычном человеческом состоянии и готов перейти на новый уровень.
Победа над раком и распространение человекоподобных роботов: глава Arm рассказал о будущем ИИ
Этот следующий этап, по его словам, мог бы предполагать расширение ментальных возможностей и способности к более глубокому восприятию. Так люди могли бы постепенно исследовать трансгуманистические формы бытия и открывать новые возможности, подобно тому, как в процессе эволюции из человекообразных обезьян возникли люди.
В очень отдаленной перспективе Бостром представляет себе развитие, которое может длиться миллионы лет и завершиться появлением «постчеловеческого суперразума планетарного масштаба». Такая сущность могла бы взаимодействовать с другими суперразумами и заниматься вещами, которые современный человек даже не в состоянии себе представить.
«Нам с нашей нынешней позиции трудно это оценить. Думаю, мы, в глубинном смысле, вообще не имеем об этом ни малейшего представления», — добавил философ.
Ведущие эксперты поспорили о будущем ИИ: заменят ли технологии людей
Клаван в ответ заметил, что перспектива такого будущего может вызывать не меньшее беспокойство, чем сценарии катастрофы. Он объяснил это тем, что ценит человечество вместе с его ограничениями, болью и смертностью, а также считает красоту, справедливость, любовь и истину частями человеческой сущности. По словам Клавана, перспектива превращения в существ с целями и стремлениями, которые современный человек не способен понять, его не привлекает.
Бостром ответил, что понимает эту реакцию, но предложил сравнить возможную трансформацию человечества с взрослением ребёнка. Взрослый человек имеет другие интересы, мысли, личность и тело, однако это не означает, что взросление само по себе плохо для ребёнка.
«Думаю, в более широком смысле мы все, возможно, до сих пор остаемся детьми. И я надеюсь, что мы сможем и дальше развиваться, сохраняя при этом всё то ценное, что присуще нам с детства», — подчеркнул Бостром.
Будущее зависит от хрупкого равновесия: Земля может пережить смерть Солнца
Философ добавил, что человечество может сохранить ценные черты, «одновременно добавляя новые слои к своей сущности». По его мнению, это позволило бы людям полнее реализовать свой потенциал, не ограничиваясь уже известными способами существования.
Бостром считает, что пространство возможных способов бытия, ощущений, действий и взаимодействия гораздо шире того, что человечество успело исследовать. Поэтому он считает «самонадеянным» предположение, что нынешнее состояние человека является наилучшим из возможных в этом пространстве.
При этом философ не представляет будущую трансформацию как индивидуальный процесс, в котором каждый человек самостоятельно принимает решения и движется в собственном направлении. Он предполагает, что это может быть сообщество или цивилизация, а возможно, и ещё более масштабная форма существования, которая будет развиваться вместе с другими разумными существами. Среди возможных участников такого будущего Бостром назвал животных, которые могли бы обрести способность говорить и участвовать в общественной жизни, а также цифровые разумы.
Ранее в книге «Глубокая утопия» Бостром рассмотрел гипероптимистический сценарий технологического прорыва. По его оценке, развитие сверхразума может привести к миру «после дефицита» и «постинструментальной эпохи», в которой алгоритмы будут выполнять весь экономически ценный труд при практически нулевых затратах и превзойдут людей даже в традиционно человеческих сферах, таких как воспитание детей.