Познакомьтесь с Кейт Дарлинг из Массачусетского технологического института, специалистом по этике роботов, которая говорит, что мы должны переосмыслить наши отношения с роботами.
Мы почти на четверть в 21-м веке, и к настоящему времени изображение роботов в стиле Терминатора, захвативших мир, стало избитым клише. Хотя это соблазнительно, большинство из нас осознает, что это (вероятно) не будущее разумной жизни. Но как тогда это будет выглядеть?
По словам Кейт Дарлинг, специалиста по этике роботов из Массачусетского технологического института и автора книги «Новая порода: что наша история с животными говорит о нашем будущем с роботами», ответ прямо перед нами: животные.
Хотя мы традиционно относимся к роботам как к людям, Дарлинг считает, что более уместным сравнением будет рассматривать их как другой вид «животных».
Когда мы ожидаем, что робот будет вести себя как человек, это очень разочаровывает.
КЕЙТ ДАРЛИНГ
Роботы будут все чаще занимать общие пространства с людьми, социальные роботы будут набирать популярность, а вопросы о том, как люди должны обращаться с роботами и взаимодействовать с ними, никогда не стояли так остро, утверждает Дарлинг.
Ее точка зрения не в том, что роботы и животные одинаковы или что их следует использовать совершенно одинаково, а в том, что мы должны быть открыты для различных способов сотрудничества с роботами, используя их разнообразные возможности. диапазон навыков и способностей - как у животных.
Я поговорил с Дарлинг о том, как дизайн робота влияет на наше взаимодействие с ним, почему мы должны перестать беспокоиться о роботах, заменяющих людей, и многом другом. Вот наш разговор, отредактированный и сжатый для ясности.
Почему роботы традиционно разрабатывались так, чтобы они выглядели как люди? Что за этим стоит?
Мы всегда были очарованы воссозданием самих себя. В древние времена у нас были автоматы, которые представляли собой копии человеческих тел, которые могли передвигаться. Даже самые ранние исследователи искусственного интеллекта начинали с цели воссоздать человеческий интеллект.
Роботы и ИИ, в частности, представляют собой машины, которые могут ощущать, думать, принимать самостоятельные решения и учиться. Таким образом, мы склонны автоматически сравнивать их с собой также из-за нашей врожденной склонности сравнивать все с собой. И традиционно многие роботы имели форму человека, хотя это не обязательно самая практичная форма.
Что не так с этим человекоподобным дизайном?
Таким образом, это подсознательное сравнение роботов с людьми, которое было улучшено дизайном. Я думаю, что это не имеет смысла. Во-первых, ИИ не похож на человеческий интеллект - роботы не обладают такими же навыками, как люди. Поэтому часто, когда мы ожидаем, что робот будет вести себя как человек, это очень разочаровывает. Это не значит, что роботы и ИИ не умны, просто у них совершенно другой тип интеллекта и навыков, чем у людей.
Наш вопрос не должен заключаться в том, «в какой момент мы можем воссоздать человеческие способности и человеческие навыки в роботе?» Вопрос в том, «зачем нам вообще это делать, когда мы может создать что-то другое?'
КЕЙТ ДАРЛИНГ
Кроме того, это сравнение действительно ограничивает нас. Первые исследователи ИИ пытались воссоздать человеческий мозг и человеческий интеллект, но это не то, к чему мы пришли. И поэтому наш вопрос не должен заключаться в том, «в какой момент мы можем воссоздать человеческие способности и человеческие навыки в роботе?» Вопрос в том, «зачем нам вообще это делать, если мы можем создать что-то другое?» Роботы и ИИ думают и ведут себя не так, как мы, но они очень полезны и очень умны.
Вместо этого вы предлагаете использовать животных как способ думать о роботах. Какие здесь параллели?
Столько забавных параллелей. На протяжении тысячелетий мы использовали животных в качестве дополнения к человеческим способностям. Не потому, что они делают то же, что и мы, а потому, что набор их навыков сильно отличается от нашего.
Мы использовали волов, чтобы вспахивать наши поля, мы использовали лошадей, чтобы путешествовать по-новому. В некотором смысле конная повозка является оригинальным полуавтономным транспортным средством. Мы использовали голубей для перевозки почты или доставки лекарств так же, как сегодня используем дроны. Мы использовали их для аэрофотосъемки. Таким образом, они были оригинальным дроном для любительской фотосъемки. Мы использовали дельфинов в военно-морском флоте для обнаружения мин под водой или поиска потерянного подводного оборудования, что похоже на то, как мы начинаем использовать подводных роботов сегодня.
Но у животных есть чувства, а у роботов их нет. Как это влияет на то, как мы поступаем или должны относиться к роботам?
Верно. Так что это то, что всегда действительно очаровывало меня во взаимодействии человека и робота. Что это на самом деле говорит о том, как мы относимся к другим сущностям. Потому что во многих случаях мы не очень хорошо относились к животным, сотрудничая с ними. И на самом деле, в западном обществе мы часто довольно лицемерно относимся к тому, как мы думаем о том, как мы хотим относиться к другим существам, и как мы относимся к ним на самом деле.
Так что многие из нас думают, что нас волнует, чувствуют ли другие существа, обладают ли они разумом или могут ли они страдать, но если вы посмотрите на историю защиты прав животных в западном обществе, она быстро станет очевидно, что мы защищаем только тех животных, которые милы или о которых мы заботимся в культурном отношении, или с которыми у нас есть какие-то эмоциональные отношения.
Что интересного в исследованиях взаимодействия человека и робота, так это то, что они показывают, что мы относимся к роботам очень похожим образом, когда мы относимся к некоторым из них, с которыми у нас нет эмоциональной связи, как к инструментам и продуктам, а затем другие мы относимся к ним как к товарищам или развиваем эмоциональную привязанность.
Так что вполне возможно, что если мы не остановимся и не подумаем об этом, мы по умолчанию будем больше заботиться о роботе, который ничего не чувствует, чем о слизистом слизняке на нашем заднем дворе. На самом деле это уникальный момент времени, когда мы можем остановиться, подумать и, возможно, изменить свое поведение таким образом, чтобы оно больше соответствовало нашим ценностям.
Интересно, что вы это говорите, потому что я думал об обратном - что мы можем относиться к животным по-доброму, но иногда к роботам (особенно социальным) относимся отстраненно. И от этого могут быть вредные последствия. Например, если мы говорим «свысока» с Amazon Alexa, это влияет на то, как мы можем относиться к женщинам в нашей жизни
Так что я действительно думаю, что на самом деле, возможно, есть аргумент в пользу того, чтобы относиться к технологиям с некоторой добротой, как бы смешно это ни звучало. Несмотря на то, что технология не может чувствовать, и мы далеки от разумных роботов или роботизированного сознания.
Мы видим, что роботы разрабатываются очень реалистично, некоторые роботы и роботы, которые могут реагировать на удар ногой, например, симулируя боль. И один вопрос: хотя робот не может чувствовать, должны ли мы позволять людям пинать его?
КЕЙТ ДАРЛИНГ
Но есть вопросы, связанные с нашим собственным поведением. Так что, если вы привыкли лаять команды на Алексу, или ваш ребенок привык лаять команды на Алексу, вы можете привыкнуть лаять команды на женщин или женщин по имени Алекса или других людей. Родители выразили достаточное беспокойство по этому поводу, поэтому многие компании, занимающиеся домашними голосовыми помощниками, выпустили функции для включения функции волшебного слова, чтобы Alexa реагировала, только если вы, например, говорите «пожалуйста» и «спасибо».
Но тогда у вас возникнут всевозможные вопросы с различными конструкциями роботов. Мы все чаще видим, как роботы разрабатываются очень реалистично, определенные роботы и роботы, которые могут реагировать на удары ногами, например, симулируя боль. И один вопрос: хотя робот не может чувствовать, должны ли мы позволять людям пинать его?
А что, если бы у нас был настоящий тематический парк «Мир Дикого Запада», куда люди могли бы приходить и делать с живыми роботами все, что захотят? Является ли это здоровым выходом для агрессивного поведения или (это) тренирует человеческие мускулы жестокости? У меня нет ответа на этот вопрос, но очень скоро он будет поднят.
Верно. Так что, с другой стороны, может быть, мы могли бы пойти в другом направлении и сделать их менее реалистичными и больше похожими на нейтральный объект, который мы не ассоциируем ни с какой жизнью?
Мы можем попробовать. Что мы также видим в исследовании, так это то, что очень трудно отключить эту тенденцию, когда мы должны относиться к роботам как к живым существам. Даже что-то такое простое, как пылесос Roomba - просто потому, что он передвигается сам по себе, люди называют его Roomba. Люди будут чувствовать себя плохо из-за Roomba, когда он застрянет. Так что противодействовать этой человеческой тенденции очень сложно.
И на самом деле, многие исследователи животных и природы отошли от идеи, что мы должны избавиться от того, как мы проецируем себя на животных, и сказали: «Хорошо, это то, что мы просто должны быть очень осведомлены об этом, и мы можем подтолкнуть наше поведение в определенных направлениях, но мы не собираемся полностью избавиться от этой тенденции».
И, может быть, это хорошо, потому что это означает, что мы можем относиться к животным определенным образом, который может быть действительно полезен для людей. Таким образом, наличие собак-терапевтов или домашних животных в качестве компании может быть очень полезным для людей.
Или военные роботы, где солдаты эмоционально привязываются к подразделениям по обезвреживанию бомб, с которыми они работают. На что, на первый взгляд, вы бы сказали: «Окей, это ужасно. Мы не хотим, чтобы солдаты рисковали своей жизнью или вели себя неэффективно на поле боя из-за того, что у них развилась эмоциональная связь с роботом.”
Но в то же время, если вы посмотрите на историю роли, которую животные играли на войне, да, солдаты иногда принимали плохие решения, основанные на желании спасти свою собаку или лошадь на поле боя.. Но животные приносили столько эмоционального комфорта солдатам в очень стрессовых ситуациях, что мне не ясно, обязательно ли это плохо, даже если бы мы могли это предотвратить.
Многие люди опасаются, что роботы каким-то образом будут угрожать нам или заменят нас. Как смещение взгляда на животное меняет наш взгляд на эту проблему?
В частности, в западном обществе у нас есть идея, что существует постоянная угроза того, что роботы восстанут против нас или придут нам на смену. И частично это происходит из этого сравнения роботов с людьми - и это очень ограничивает. Это влияет на многие наши разговоры, от того, что такое интеллект, до наших разговоров о роботах, рабочих местах и роботах, заменяющих людей один на один.
Использование аналогии с животными помогает нам отойти от страха быть замененными. И животные, очевидно, этого не сделали. Животные разрушили общество. Они создали совершенно другие рабочие места для людей. Они произвели революцию в сельском хозяйстве, транспорте и многих других вещах, которые технологии также собираются разрушить, но это не тот страх, который был у нас с животными, когда животные восстают против нас.
Страх по поводу роботов также совершенно неуместен, учитывая, что мы далеки от искусственного сверхразума или какого-либо научно-фантастического сценария, который привлекает много внимания в прессе - на самом деле это неправильно. вопрос для беспокойства.
Что послужило движущей силой вашего исследования? Вопрос, который вас больше всего интересует?
Что меня поражает, так это наша склонность относиться к роботам как к живым существам, даже если мы прекрасно знаем, что они всего лишь машины. Всего несколько недель назад я получил этого робота-гренландского тюленя по имени PARO. Это медицинское устройство, которое используется для пациентов с деменцией в доме престарелых. И это похоже на очень милого детеныша тюленя. Он мало что делает, он просто реагирует на прикосновения. Делает эти маленькие движения и маленькие звуки. Я показывал его группе робототехников, с которыми работаю. Они создают социальных роботов - они специально проектируют роботов, которые подают такие сигналы.
Они все такие: «О, это так мило. О, смотрите, он делает XYZ!» Так что даже люди, которые создают программы, не застрахованы. На самом деле, он все еще очень восприимчив к этим искусственным сигналам, которые мы запрограммировали в эти машины. Похоже, у нас есть такая глубокая биологическая склонность. Меня это всегда удивляет, хотя я видел, как это происходит, и этому посвящено так много исследований.
Я думаю, что мы недостаточно говорим об этом и недостаточно признаем нашу невероятную социальную тенденцию, которая повлияет на то, как мы интегрируем эти машины, потому что мы относимся к ним так иначе, чем к другим устройствам..