Иногда нарушение правил является этическим поступком.
Ключевые выводы
- Большинство людей согласны с тем, что правила имеют свои исключения и что большинству законов нужна определенная степень гибкости, чтобы они работали.
- Новая статья показывает, что происходит, когда люди решают нарушить правила, с целью поиска лучших способов запрограммировать этику в ИИ.
- Чтобы общество функционировало, мы должны одновременно придерживаться двух противоречивых убеждений: правила должны соблюдаться и, когда того требует ситуация, нарушаться.
Если история человечества и учит нас чему-то, так это тому, что мы непоследовательны. Люди капризны, ненадежны и своенравны. Прихоть управляет жизнью больше, чем жесткие правила. Как выразился Джордж Бернард Шоу, говоря о человеческой природе, «золотое правило состоит в том, что золотого правила не существует».
Таким образом, наше отношение к соблюдению правил неодинаково. Обычно мы согласны с тем, что большинство правил будут иметь исключения или что большинство законов должны быть хотя бы немного гибкими. Но чем отличаются наши взгляды на нарушение правил? И какие правила должны гнуться больше, чем другие? Наша готовность или нежелание нарушать правила определяется нашим воспитанием, культурой и личностью. И, как показывает новое исследование, это зависит даже от того, какие рассуждения мы используем.
Не резать
В начале 2022 года исследование, опубликованное Awad et al. собрал данные о том, как люди оценивают приемлемость нарушения устоявшихся норм. Команда была мотивирована отчасти растущей потребностью в программировании этики в ИИ - чтобы создавать «морально компетентные машины». Поскольку очевидно, что люди будут нарушать правила при определенных обстоятельствах, мы должны решить, когда и почему это происходит, если мы хотим, чтобы ИИ имитировал человеческое поведение. Другими словами, нам нужно определить, какие правила второго порядка определяют, когда переходить к правилам первого порядка.
Команда привела реальный пример нарушения правил: разрезание очереди. На первый взгляд, ожидание в очереди регулируется простым принципом: всем помогают в порядке очереди. И все же бывают всевозможные исключения. Один из примеров, который приводит газета, - это кто-то, кто забывает свои столовые приборы после того, как разместил заказ на еду. В этом случае большинство людей позволит вам быстро выскочить вперед, чтобы получить предмет.
Команда представила участникам ряд сценариев в различных условиях ожидания в очереди: в гастрономе, аэропорту или туалете. Затем участников попросили оценить, оправдывает ли оправдание или причина, указанная в списке, кто-то вклинившийся в очередь. Участникам также было предложено «использовать основные когнитивные механизмы», обдумав, что определило их решение, например, продолжительность задержки, выгоду для закройщика и т. д..
Системы этического мышления
В 2011 году Дэниел Канеман познакомил непсихологический мир с идеей «Думай быстро, медленно». В своей книге Канеман утверждал, что человеческое мышление основано на двух моделях. Подход «быстрое мышление» (Система 1) использует предопределенные правила или упрощенную умственную эвристику. Рассуждения «медленного мышления» (Система 2) требуют обдумывания, обдумывания и процесса принятия решений.
Различие Канемана хорошо соотносится с существующей моральной литературой. В деонтологической (основанной на правилах) этике ожидается, что мы будем следовать правилам или выполнять какой-то долг. Это подпадает под Систему 1. В этике консеквенциализма (основанной на результатах) мы должны совершать действия, которые максимизируют наилучшие результаты, что гораздо больше напоминает обсуждение Системы 2.
Исследование 2022 года утверждает, что соображения о нарушении правил в подавляющем большинстве определяются рассуждениями Системы 2. Команда разделила рассуждения Системы 2 на два типа: мышление, основанное на результате (например, «сокращение очереди кому-то очень поможет») и мышление, основанное на согласии (например, «социально принято, что врезаться, чтобы получить воду из-под крана, - это нормально»).. Люди, нарушающие правила, чаще всего используют ту или иную из этих моделей Системы 2.
Итак, люди, которые используют свои быстрые рассуждения Системы 1, часто считают правила нерушимыми. И наоборот, всякий раз, когда мы считаем, что правило заслуживает нарушения, мы используем наше совещательное рассуждение Системы 2: расчет последствий и социальной приемлемости.
Жизнь с диссонансом
Awad et al. показывают, что людям не нравятся абсолютистские правила. Кажется, что мы даже достигаем разных моральных результатов в зависимости от того, используем ли мы наши рассуждения по Системе 1 или Системе 2.
Психологические понятия, найденные в «Думай, быстро и медленно», служат аналогом для более широкого мира. Нашему мозгу иногда приходится действовать инстинктивно, руководствуясь правилами типа Системы 1, и то же самое делает и общество. Цивилизация нуждается в законах, чтобы действовать. Например, никто никогда не выйдет из дома, если вы думаете, что кто-то украдет все в тот момент, когда вы это сделаете. Нам нужно знать, что нас не убьют, не будут эксплуатировать или предать в тот момент, когда мы ослабим бдительность. Следование правилам - это то, что позволяет нам передвигаться и что-то делать.
Тем не менее, непродуманные и негибкие законы иногда могут быть такими же плохими. В мире с населением почти 8 миллиардов человек, принимающих около 35 000 решений каждый день, нелепо предполагать, что одно правило может определить любую ситуацию. Как писал британский философ Джон Стюарт Милль: «сложная природа человеческих дел [означает], что правила поведения не могут быть сформулированы таким образом, чтобы не требовалось никаких исключений, и что едва ли какое-либо действие можно с уверенностью считать либо всегда обязательно или всегда порицаемо.«Нам нужны рассуждения типа Системы 2, чтобы убедиться, что наши правила действительно работают.
Итак, мы должны жить в диссонансе, наши убеждения борются друг с другом. Мы должны исходить из того, что законы нерушимы, но признать, что время от времени их нужно нарушать. Другими словами, нам иногда нужно думать об этике быстро, а иногда думать медленно.
Джонни Томсон ведет популярный аккаунт в Instagram под названием Mini Philosophy (@philosophyminis). Его первая книга - «Мини-философия: маленькая книга больших идей».