Неужели мы действительно находимся всего в нескольких шагах от «Сингулярности», технологической эпохи, которая откроет новую эру в человеческой эволюции?
Ключевые выводы
- Футурологи указывают на экспоненциальную скорость технического прогресса и делают вывод, что мы стремительно приближаемся к революционному перелому.
- Известные как «Сингулярность», они предсказывают, что мы сможем улучшить человеческий интеллект и расширить творческие способности, вступив в новую эволюционную стадию для человечества и новую эпоху для космоса.
- Есть как минимум три возражения против этой точки зрения, демонстрирующие, что Сингулярность вряд ли является предрешенным.
В 1903 году братья Райт продемонстрировали миру первый устойчивый полет. Менее чем за 60 лет Юрий Гагарин стал первым человеком в космосе и облетел Землю.
В 1993 году Тим Бернерс-Ли обнародовал исходный код «Всемирной паутины». Тридцать лет спустя все, от наших холодильников до наших часов, подключено к розетке.
В 1953 году Розалинд Франклин, Джеймс Уотсон и Фрэнсис Крик открыли двойную спираль ДНК. В течение 50 лет мы составили карту генома человека. Двадцать лет спустя мы используем CRISPR для редактирования ДНК.
В 1992 году Гэри Каспаров смеялся над тем, насколько неловким был его противник в компьютерных шахматах. В течение пяти лет его обыграл один.
Технологии имеют привычку убегать от нас. Когда происходит прорыв или открывается шлюз, часто следует взрывной экспоненциальный рост. И, по словам футуролога Рэя Курцвейла, мы находимся всего в одном историческом моменте от «Сингулярности».
Это слабое и смертное тело
Сингулярность для Курцвейла определяется как «будущий период, в течение которого темпы технологических изменений будут такими быстрыми, а их влияние настолько глубоким, что человеческая жизнь будет необратимо изменена». Идея состоит в том, что открытия и прогресс «взорвутся с неожиданной яростью». Мы часто не понимаем, что на самом деле означает «экспоненциальный рост» и как быстро он приводит к изменениям. Например, если бы мы удваивали вычислительную мощность компьютера каждый год, в течение семи таких «удвоений» мощность наших компьютеров увеличилась бы в 128 раз.
Сегодня новаторов и ученых стало больше, и у них есть более эффективные инструменты и методы. Вывод, который делает Курцвейл, состоит в том, что технологический прогресс «теперь удваивается каждое десятилетие» (хотя он не может указать источник этого). По его словам, мы находимся всего в нескольких десятилетиях от того момента, когда все действительно пойдет в гору - когда мы вступим в головокружительно резкий и полностью преображенный новый мир.
Для кого-то эта Сингулярность окажется утопией. Для других это будет кошмар в стиле Терминатора. Курцвейл определенно принадлежит к первому типу. Курцвейл видит слабость в нашей человеческой слабости, или в том, что он называет «биологическими телами 1.0». Да, у нас есть Рембрандт, Ньютон и Сен-Санс, но также верно и то, что «многое человеческое мышление производно, мелко и ограничено». Вот почему Сингулярность не может прийти достаточно быстро. Пришло время избавиться от этих неуклюжих мешков плоти жестокого варварства.
Следующая эпоха
Курцвейл рассматривает Вселенную с точки зрения шести великих «эпох». Они начинают с физики и химии при создании Вселенной. Затем соединения на основе углерода становились все более и более сложными, пока не появилась жизнь. Со временем интеллект развился, как и человеческий мозг, что позволило нам создавать все более и более совершенные технологии.
Итак, мы подошли к «нашему» эпохальному моменту. Следующий большой скачок для Вселенной произойдет, когда люди и технологии сольются. Это не означает использование Google Maps, чтобы найти дорогу домой; это означает, что сама наша биология будет переплетена с технологией, которую мы создаем. Это век бионики. Таким образом, машины, которые мы создаем, позволят нам «превзойти ограничения человеческого мозга, ограничивающие всего лишь сотню триллионов чрезвычайно медленных соединений», преодолеть «вечные человеческие проблемы и значительно усилить творческий потенциал». Это будет трансцендентное человечество следующей стадии с кремнием в наших мозгах и титаном в наших телах.
Означает ли это злую, богоподобную элиту, порабощающую всех нас, или некую всеприятную идиллию, Курцвейл (что нехарактерно) не уверен.
Холодная вода на плате
Насколько вероятно все это? Какой холодной водой можно полить его?
Первая идея, на которую следует обратить внимание, заключается в том, насколько вероятно, что технологии будут развиваться таким образом, что это приведет либо к общему искусственному интеллекту, либо к сложным бионическим усовершенствованиям нашего собственного разума. Большинство оценок Курцвейла (а также оценок других футурологов, таких как Элиезер Юдковски) основаны на предыдущих и существующих аппаратных разработках. Но, как утверждает философ Дэвид Чалмерс, «самым узким местом на пути к ИИ является программное обеспечение, а не аппаратное обеспечение». Наличие разума, или общего человеческого интеллекта, включает в себя всевозможные сложные (и неизвестные) нейробиологические и философские вопросы, поэтому «аппаратная экстраполяция здесь не является хорошим руководством». Наличие ума - это совсем другой шаг; это не похоже на удвоение объема памяти флешки.
Во-вторых, нет никаких необходимых причин для экспоненциального роста, от которого зависят футурологи. Прошлые технологические достижения не гарантируют аналогичных достижений в будущем. Существует также закон «убывающей отдачи». Может случиться так, что даже если у нас больше коллективного разума, работающего более эффективно, мы все равно получаем от него меньше. Сегодня Apple - самая богатая компания в мире, в которой работают лучшие умы в области компьютерных наук. Тем не менее, совершенно очевидно, что самые последние iDevices кажутся менее захватывающими или инновационными, чем их предыдущие версии.
Курцвейл и его сторонники вполне могут ответить, что мир «расширенного интеллекта», в котором мы могли бы увидеть 20-процентное увеличение интеллекта, безусловно, выходит за рамки «убывающей отдачи». Как указывает Чалмерс, «даже среди людей относительно небольшие различия в возможностях проектирования (скажем, разница между Тьюрингом и средним человеком), по-видимому, приводят к большим различиям в проектируемых системах». Может быть предел или убывающая отдача от того, что может достичь существующий человеческий интеллект, но как насчет того, когда мы сможем это улучшить?
Третье возражение состоит в том, что существует множество ситуационных или событийных препятствий, которые предположительно могут встать на пути Сингулярности. Возможно, идет страшная, стирающая с лица земли глобальная война. Или другая пандемия может уничтожить большинство из нас. Возможно, нанотехнологии превращают наши мозги в кашу. Возможно, ИИ обрушит на мир ужасные бедствия. Или, может быть, у нас просто закончились ресурсы, необходимые для создания и развития технологий. Взятые по отдельности, каждый из них может иметь незначительные шансы, но когда вы складываете все возможные тупики и неудачи, этого достаточно, чтобы задаться вопросом, насколько на самом деле предрешён вывод Сингулярности.
Мечта любителя научной фантастики
То, как вы относитесь к Курцвейлу, во многом будет зависеть от ваших существующих предубеждений и, возможно, от того, сколько научной фантастики вы прочитали. Безусловно, правильно будет сказать, что технологии в прошлом веке развивались намного быстрее, чем в прошлые века и тысячелетия. Мир 2020-х неузнаваем по сравнению с миром 1920-х. Наши прапрадеды смотрели бы на сегодняшний мир так, как смотрели бы на роман Герберта Уэллса.
Но в равной степени верно и то, что на пути неограниченного технического прогресса есть много препятствий. В конце концов, мы не знаем, взлетит ли эта ракета, а если и взлетит, то ударится ли она об очень твердый стеклянный потолок.
Джонни Томсон преподает философию в Оксфорде. Он ведет популярный аккаунт в Instagram под названием Mini Philosophy (@philosophyminis). Его первая книга - «Мини-философия: маленькая книга больших идей».