Они ведь не могут быть хуже… неужели?
Ключевые выводы
- Мы все больше не доверяем нашим политикам и теряем уверенность в их работе. Нужно что-то менять в нашей политике.
- Одно из предложений состоит в том, чтобы ввести «алгократию», при которой основные управляющие решения управляются или даже реализуются алгоритмом.
- Хотя с этой идеей есть как минимум несколько серьезных проблем, возможно, алгократия неизбежна.
В 1960-х годах 77% американцев верили, что правительство большую часть времени поступает правильно. Сегодня это 20%. За одну жизнь доверие к нашим политикам и уважение к ним резко упали. По иронии судьбы, во времена разгорающейся ярости и клеветы на пристрастиях республиканцы и демократы могут согласиться с тем фактом, что правительство слишком мало делает, чтобы помочь «таким, как вы». Мы можем во многом расходиться во мнениях, но нас объединяет недоверие к Человеку.
Явно что-то сломалось в нашей политике. Мы живем в эпоху космических ракет, нанороботов и CRISPR. Будущее научной фантастики уже здесь. И все же наши политические органы скрипят и рвутся, чтобы не отставать. Мы используем многовековые системы в современном меняющемся мире. Это как иметь компьютер за 2000 долларов и использовать его для запуска DOS и игры в Pong. Конечно, мы можем добиться большего успеха.
Алгократия
Как мы можем использовать современные технологии для улучшения нашей политики? Чего многие люди не ценят, так это того, что большая часть политики скучна. Он включает в себя регистрацию земли, расписание транспорта, юридические мелочи и просеивание через плотно заполненные электронные таблицы. Помимо выборов и выступлений по телевидению, реальное управление страной во многом связано с логистикой. И если есть что-то, с чем компьютеры справляются действительно хорошо, так это со скучной логистикой.
Термин «алгократия» проник в некоторые направления политической философии. Это означает использование компьютерных алгоритмов и даже технологии блокчейна, чтобы взять на себя часть (возможно, все) бремя управления. Он использует технологии для управления страной. Согласно одной исследовательской работе Deloitte, по самым скромным оценкам, «автоматизация может ежегодно экономить 96,7 миллиона федеральных часов с потенциальной экономией в 3,3 миллиарда долларов». На эти деньги можно строить дома, улучшать школы и спасать жизни.
Идея состоит в том, что алгократия может использовать данные со смартфонов или компьютеров людей для принятия разумных и очень быстрых управляющих решений. Мы часто жалуемся, что политики «не на связи». Тем не менее, с алгократическим правительством мы были бы постоянно подключены к правительству - это не совсем «цифровая демократия», но это руководящий орган, который мгновенно и полностью узнает данные, которые имеют значение.
Это не может быть хуже моей участи
Существует ряд исследований, которые предполагают, что алгократия более рациональна и эффективна, чем «человеческая бюрократия» - по крайней мере, в некоторых политических контекстах. Более того, данные свидетельствуют о том, что он может быть даже более популярным. В 2021 году команда из Испании обнаружила, что 51% европейцев выступают за передачу ряда мест в парламенте алгоритмам. Это число было самым высоким в Испании, Эстонии и Италии и самым низким в Нидерландах, Великобритании и Германии. Интересно, что «Китай и США придерживаются противоположных взглядов: 75% китайцев поддерживают [замену лидеров алгоритмами], 60% американцев выступают против».
В другом документе отмечалось, что чем больше вы не доверяете правительству, тем счастливее вы будете, когда компьютер будет выполнять эту работу. Как выразились Спатола и Макдорман, «участники, которые считали политических лидеров ненадежными, как правило, больше принимали искусственных агентов в качестве альтернативы, потому что считали их более надежными и менее склонными к моральным ошибкам». Если вы недовольны своим представителем, то насколько хуже может быть компьютер?
Алгоритмический уклон
Когда мы думаем об алгоритмах или вычислительных процессах, мы часто думаем о чем-то вроде калькулятора или формулы электронной таблицы: быстрые, эффективные данные без излишеств. Но когда мы имеем дело с человеческими данными, все становится намного сложнее и менее прозрачно.
Есть как минимум три основные проблемы с алгократией
Во-первых, часто неясно, как построены эти алгоритмы. Крупные технологические компании или частные предприятия часто несут ответственность за свое программирование, и ни одна из них обычно не очень открыта. На самом деле, они чаще всего носят собственнический характер. Если мы хотим, чтобы наши демократии были прозрачными и легко поддающимися проверке, то политика, управляемая учеными-компьютерщиками за закрытыми дверями, не подходит. Как пишет Мередит Бруссар в своей книге «Искусственный неразумие», «проблемы скрыты внутри кода и данных, поэтому их труднее увидеть и легче игнорировать».
Во-вторых, часто случается, что когда кто-то разбирается в алгоритме, вскоре он понимает, как его обыграть. Например, в статье Университета Мэриленда показано, как ужасно просто было обмануть алгоритмы в патентном ведомстве США - если вы хотите, чтобы ваша идея казалась ИИ оригинальной, просто добавьте дефис. Так что, если хотите, вы можете запатентовать «i-Phone» или бургер «Mc-Donalds».
В-третьих, мы гораздо лучше осознаем тот факт, что беспристрастного, беспристрастного алгоритма просто не существует. В 2020 году Netflix выпустил документальный фильм Coded Bias, в котором исследователь СМИ Джой Буоламвини показала, насколько плохо работает технология распознавания лиц при анализе чернокожих. Это показало, насколько алгоритмы могут усилить предвзятость способами, которые мы не предвидели. Алгоритмы используют данные, и есть еще данные (и определенные типы данных) о маргинализированных, угнетенных группах.
Это, в свою очередь, еще больше действует как порочный круг, увековечивая проблему. Вирджиния Юбэнкс в своей книге «Автоматизация неравенства» говорит об этом так:
«Маргинализированные группы сталкиваются с более высокими уровнями сбора данных, когда они получают доступ к общественным благам, проходят через строго охраняемые районы, попадают в систему здравоохранения или пересекают национальные границы. Эти данные усиливают их маргинальность, когда они используются для нацеливания на них подозрений и дополнительного контроля. Те группы, которые считаются недостойными, выделяются для карательной государственной политики и более интенсивного наблюдения, и цикл начинается снова. Это своего рода коллективный сигнал тревоги, петля обратной связи несправедливости».
Здесь, чтобы остаться
Тем не менее, ни одна из этих проблем не является неразрешимой. Это не смертельные удары по идее алгократии. Подобно дебатам вокруг технологий в целом, вопросы больше касаются младенчества и незрелости технологий. Предубеждения можно сгладить, а недостатки исправить. Технологические компании могут быть вынуждены быть более прозрачными. Со временем алгократические системы будут усовершенствованы до такой степени, что станут жизнеспособной альтернативой нашим нынешним политикам.
Технологии все больше посягают на наше общество. ИИ, алгоритмы и компьютеры никуда не денутся, и они уже являются неотъемлемой частью процессов принятия решений нашими лидерами. Возможно, тогда мы просто впадем в алгократию, сами того не осознавая.
Джонни Томсон преподает философию в Оксфорде. Он ведет популярный аккаунт под названием «Мини-философия», а его первая книга - «Мини-философия: маленькая книга больших идей».