И другие важные вопросы, которые мы исследовали в первый день Всемирного фестиваля науки.
Будет ли когда-нибудь искусственный интеллект разумным?
В коротком видео, представляющем панельную дискуссию о будущем ИИ, Ход Липсон, профессор инженерии Колумбийского университета и один из ведущих мировых экспертов по робототехнике, не сомневается в ответе.
«Да», - сказал он. «И нет никаких оснований полагать, что человеческое сознание - это максимально возможное сознание».
Это была отличная подготовка для четырех участников дискуссии на презентации в Нью-Йоркском университете под названием «Хорошо обучайте своих роботов: станут ли роботы-самоучки нашим концом?» В увлекательной дискуссии перед переполненным залом ученые временами, казалось, соглашались с точкой зрения Липсона, а временами не соглашались. Их ответы зависели от того, как определить такие слова, как «чувство», «интеллект» и «сознание».
Макс Тегмарк, исследователь искусственного интеллекта и президент Института будущего жизни в Массачусетском технологическом институте, определил интеллект как «способность достигать сложных целей».
Модератор Тим Урбан, писатель и основатель книги «Подожди, но почему», задал вопрос немного дальше: «Искусственный интеллект - это то же самое, что интеллект?»
Искусственный интеллект, широко используемый в настоящее время, например, Siri, Cortana, Alexa и Google, еще не находится на том же уровне, что и человеческий интеллект. Это то, что участник дискуссии Питер Це из Дартмута называет «искусственным узким интеллектом» в отличие от «искусственного общего интеллекта».
Це, ведущий исследователь того, как материя может стать сознательной, объяснил разницу: узкий ИИ подобен роботу, который учится управлять самолетом или автомобилем, в то время как общий ИИ будет включать в себя знания о том, как управлять самолетом и водить машину… и косить газон, и присматривать за детьми, и готовить ужин, и даже иметь возможность учиться.
Тем не менее, узкий ИИ имеет большой потенциал. Группа предсказала, что в течение десятилетия или около того узкий ИИ даст нам дороги, в основном с беспилотными автомобилями и «докторами-роботами», которые будут предоставлять гораздо более качественные лекарства в диагностике и лечении. Один из участников дискуссии предсказал, что в ближайшем будущем дети будут спрашивать своих родителей: «Вы имеете в виду, что реальный человек поставил вам диагноз, когда вы были больны? И что вы на самом деле сами водили машины и управляли тяжелой техникой?»
А как же творчество? ИИ подвергался испытаниям в рисовании, сочинении музыки и даже написании сценария - все со смешанными результатами, в основном из-за отсутствия совершенства и искренних человеческих эмоций. (Видео ужасной сцены из сценария, написанного роботом, было встречено насмешливым воем публики.)
Панель особенно оживилась при обсуждении возможного будущего ИИ и разума: захочет ли когда-нибудь искусственный интеллект захватить мир? Повернутся ли против нас роботы, как мы видели во многих научно-фантастических фильмах?
Ян ЛеКун, ученый в области искусственного интеллекта и профессор Нью-Йоркского университета, так не думает. «Желание захватить власть на самом деле не связано с интеллектом», - сказал он, - и публика захихикала, когда по всему залу прошептали слово «Трамп». «Если ты глуп, ты хочешь быть вождем». (Снова смех.)
ЛеКун предположил, что ИИ никогда не будет таким «глупым» и, следовательно, не будет иметь желания править миром: «Он будет больше похож на C-3PO, чем на Терминатора». (ЛеКун считает, что в большинстве фильмов об ИИ и роботах рассматривается наихудший сценарий, «потому что фильмы более интересны, когда происходят плохие вещи. Но в большинстве фильмов все совершенно неправильно».)
Це был более пессимистичен, чем Лекун, утверждая, что если ИИ когда-нибудь разовьет сознание, он будет иметь столько же возможностей для зла, сколько и мы, люди. Тегмарк предупредил: «Если мы не сможем сделать ИИ полезным для всех, то нам будет стыдно. Нам нужно научиться делать так, чтобы машины соответствовали нашим целям и понимали их».
ЛеКун предположил, что если «сверхразумный обобщенный ИИ» выйдет из-под контроля, преследуя злые цели, то люди смогут создать «специализированный ИИ, единственная роль которого - уничтожать плохих. И специализированный всегда будет побеждать».
В интервью ORBITER перед мероприятием (мы опубликуем его позже) участница дискуссии Сьюзан Шнайдер, директор группы AI, Mind and Society (AIMS) в UConn, была настроена в основном оптимистично. о потенциале ИИ. Но ближе к концу панельной дискуссии она пошутила: «После этой панели я на самом деле больше боюсь возможности чего-то плохого».
Шнайдер сказала последнее слово, процитировав Илона Маска, который считает, что искусственный интеллект когда-нибудь будет представлять для мира большую опасность, чем ядерное оружие. Она сказала, что Маск считает, что нам необходимо по существу «загрузить» ИИ в человеческий мозг, потому что дополнение нашего собственного интеллекта - единственный способ опередить искусственное разнообразие.
Шнайдер было ясно, что она категорически против такой идеи - сделать наш мозг полумашинным, получеловеческим. Зрители громко зааплодировали, и панель закончилась.
Где-то C-3PO, наверное, тоже хлопал.