Заманчиво думать о разуме как о слое, расположенном поверх более примитивных когнитивных структур. В конце концов, мы воспринимаем себя как сознательных существ, но не так, как ритм нашего сердцебиения или урчание в животе. Если операции мозга можно отделить и стратифицировать, то, возможно, мы сможем построить что-то вроде только верхнего слоя и создать человекоподобный искусственный интеллект (ИИ), минуя грязную плоть, которая характеризует органическую жизнь.
Я понимаю привлекательность этой точки зрения, потому что я был соучредителем SwiftKey, компании по разработке программного обеспечения для языков с прогнозированием, которая была куплена Microsoft. Наша цель - имитировать замечательные процессы, с помощью которых люди могут понимать язык и манипулировать им. Мы добились приличного прогресса: я очень горжусь элегантной новой системой связи, которую мы построили для физика Стивена Хокинга в период с 2012 по 2014 год. Но, несмотря на обнадеживающие результаты, большую часть времени мне напоминают, что мы далеки от достижения человекоподобный ИИ. Почему? Потому что многоуровневая модель познания неверна. В настоящее время большинству исследователей ИИ не хватает центральной части головоломки: воплощения.
В начале современного ИИ, еще в 1950-х годах, дела пошли не так. Ученые-компьютерщики решили попытаться имитировать сознательное мышление, строя логические системы на основе символов. Этот метод включает в себя связывание объектов реального мира с цифровыми кодами для создания виртуальных моделей окружающей среды, которые затем можно спроецировать обратно на сам мир. Например, используя символическую логику, вы можете поручить машине «узнать», что кошка - это животное, закодировав определенную часть знаний с помощью математической формулы, такой как «кошка > - это > животное». Такие формулы могут быть свернуты в более сложные утверждения, которые позволяют системе манипулировать и проверять предложения - например, является ли ваша средняя кошка такой же большой, как лошадь, или может ли она преследовать мышь.
Этот метод нашел некоторый успех в простых искусственно созданных средах: в «SHRDLU», виртуальном мире, созданном ученым-компьютерщиком Терри Виноградом в Массачусетском технологическом институте в период с 1968 по 1970 год, пользователи могли разговаривать с компьютером, чтобы передвигайтесь по простым блокам, таким как конусы и шары. Но символическая логика оказалась безнадежно неадекватной, когда столкнулась с реальными проблемами, когда точно настроенные символы не выдержали перед лицом двусмысленных определений и бесчисленных оттенков интерпретаций.
В последующие десятилетия по мере роста вычислительной мощности исследователи переключились на использование статистики для извлечения закономерностей из огромных объемов данных. Эти методы часто называют «машинным обучением». Вместо того, чтобы пытаться кодировать знания высокого уровня и логические рассуждения, машинное обучение использует восходящий подход, в котором алгоритмы различают отношения, повторяя задачи, такие как классификация визуальных объектов на изображениях или преобразование записанной речи в текст. Такая система могла бы научиться распознавать изображения кошек, например, просматривая миллионы фотографий кошек, или устанавливать связь между кошками и мышами, основываясь на том, как они упоминаются в большом тексте.
Машинное обучение в последние годы дало множество потрясающих практических приложений. Мы создали системы, которые превосходят нас в распознавании речи, обработке изображений и чтении по губам; которые могут победить нас в шахматы, Jeopardy! и иди; и которые учатся создавать изобразительное искусство, сочинять поп-музыку и писать свои собственные программы. В какой-то степени эти самообучающиеся алгоритмы имитируют то, что мы знаем о подсознательных процессах органического мозга. Алгоритмы машинного обучения начинают с простых «функций» (например, отдельных букв или пикселей) и объединяют их в более сложные «категории», принимая во внимание присущую данным реального мира неопределенность и неоднозначность. Это чем-то похоже на зрительную кору, которая получает электрические сигналы от глаза и интерпретирует их как распознаваемые паттерны и объекты.
Но алгоритмы далеки от того, чтобы думать, как мы. Самое большое различие заключается в нашей развитой биологии и в том, как эта биология обрабатывает информацию. Люди состоят из триллионов эукариотических клеток, которые впервые появились в летописи окаменелостей около 2,5 миллиардов лет назад. Человеческая клетка - это замечательная часть объединенного в сеть механизма, состоящего примерно из того же количества компонентов, что и современный гигантский реактивный самолет, - все они возникли в результате давнего, встроенного взаимодействия с миром природы. В «Бассине и хребте» (1981) писатель Джон Макфи заметил, что если вы встанете, раскинув руки, чтобы представить всю историю Земли, сложные организмы начнут развиваться только на дальнем запястье, в то время как «одним махом со средней зернистой пилочкой для ногтей, вы можете стереть человеческую историю».
Традиционный взгляд на эволюцию предполагает, что наша клеточная сложность развилась от ранних эукариот посредством случайных генетических мутаций и отбора. Но в 2005 году биолог Джеймс Шапиро из Чикагского университета изложил радикально новую версию. Он утверждал, что эукариотические клетки работают «разумно», адаптируя организм-хозяин к окружающей среде, манипулируя собственной ДНК в ответ на внешние раздражители. Недавние микробиологические открытия подтверждают эту идею. Например, иммунная система млекопитающих имеет тенденцию дублировать последовательности ДНК, чтобы генерировать эффективные антитела против болезни, и теперь мы знаем, что по крайней мере 43% генома человека состоит из ДНК, которую можно перемещать из одного места в другое. к другому посредством процесса естественной «генной инженерии».
Теперь от умных, самоорганизующихся клеток к мозговитому разуму, который нас здесь интересует, нужно совершить небольшой скачок. Но дело в том, что задолго до того, как мы стали сознательными, мыслящими существами, наши клетки считывали данные из окружающей среды и работали вместе, чтобы превратить нас в надежных, самоподдерживающихся агентов. Таким образом, то, что мы принимаем за интеллект, - это не просто использование символов для представления мира таким, каков он объективно. Скорее, мы имеем мир только таким, каким он открывается нам, который коренится в наших эволюционировавших, воплощенных потребностях организма. Природа «построила аппарат рациональности не только поверх аппарата биологической регуляции, но также из него и вместе с ним», - писал нейробиолог Антонио Дамасио в «Ошибке Декарта» (1994), своей основополагающей книге о познании. Другими словами, мы думаем всем телом, а не только мозгом.
Я подозреваю, что этот основной императив телесного выживания в нестабильном мире является основой гибкости и силы человеческого разума. Но немногие исследователи ИИ действительно осознали последствия этих открытий. Мотивация большинства алгоритмов ИИ заключается в том, чтобы выводить закономерности из обширных наборов обучающих данных, поэтому для достижения высокой степени точности распознавания кошек могут потребоваться миллионы или даже миллиарды отдельных фотографий кошек. Напротив, благодаря нашим потребностям как организма люди несут с собой чрезвычайно богатые модели тела в его более широком окружении. Мы опираемся на опыт и ожидания, чтобы предсказать вероятные результаты на основе относительно небольшого числа наблюдаемых выборок. Поэтому, когда человек думает о кошке, он, вероятно, может представить себе, как она двигается, услышать звук мурлыканья, почувствовать надвигающуюся царапину от обнаженного когтя. В ее распоряжении есть богатый запас сенсорной информации, чтобы понять идею «кошки» и другие связанные с ней понятия, которые могут помочь ей взаимодействовать с таким существом.
Это означает, что когда человек подходит к новой проблеме, большая часть тяжелой работы уже сделана. Мы только начинаем понимать, что наше тело и мозг, начиная с клеточного уровня, уже построили модель мира, которую мы можем почти мгновенно применить к широкому кругу задач. Но для алгоритма ИИ процесс каждый раз начинается с нуля. Существует активное и важное направление исследований, известное как «индуктивный перенос», сосредоточенное на использовании ранее полученных машинным путем знаний для поиска новых решений. Однако при нынешнем положении вещей сомнительно, сможет ли этот подход захватить что-то вроде богатства наших собственных телесных моделей.
В тот же день, когда SwiftKey представил новую систему связи Хокинга в 2014 году, он дал интервью BBC, в котором предупредил, что разумные машины могут положить конец человечеству. Вы можете себе представить, какая история попала в заголовки. Я согласен с Хокингом в том, что мы должны серьезно относиться к рискам мошеннического ИИ. Но я считаю, что нам все еще очень далеко до того, чтобы беспокоиться о чем-либо, приближающемся к человеческому интеллекту, и у нас мало надежды на достижение этой цели, если мы тщательно не подумаем о том, как придать алгоритмам какие-то долгосрочные, воплощенные отношения с окружающей их средой.
-Бен Медлок