Алгоритмы отвечают за наем людей и сбор данных. Вы должны иметь право знать, что о вас говорят.
Алгоритмы способны на удивительные вещи. Просто по звуку вашего голоса можно якобы сказать, заслуживаете ли вы доверия. Луис Салазар, генеральный директор Jobaline, компании, разработавшей алгоритм, считает его беспристрастным способом найма. «Математика слепа», - сказал он NPR. Салазар говорит, что алгоритм анализирует структуру голоса потенциального сотрудника, чтобы выяснить, обладает ли он всеми необходимыми качествами.
Зейнеп Туфекчи из Университета Северной Каролины в Чапел-Хилл говорит, что эта оценка является распространенным заблуждением. Она объяснила NPR:
«Я боюсь, что каждый раз, когда об этом говорят, люди говорят об этом так, как будто это математика или физика; следовательно, какой-то природно-нейтральный мир, а они программы. Это сложные программы. Это не так, как законы физики или законы природы; они созданы нами. Мы должны следить за тем, что они делают, и не позволять им делать все. Мы должны принимать эти решения явно».
«Одна женщина была ложно обвинена в торговле метамфетамином частным брокером данных, и ей потребовались годы, чтобы исправить ситуацию - годы, в течение которых арендодатели и банки отказывали ей в жилье и кредит.”
Алгоритмы созданы человеком и могут ошибаться. Случаи, когда программы и продукты не работали должным образом для всех людей: Apple Watch для людей с более темной кожей или татуировками, а также фотосайты, автоматически помечающие темнокожих людей как обезьян. Сбой также может произойти просто из-за несовершенства данных, в результате чего такие вещи, как высокооплачиваемая реклама, показываются мужчинам гораздо чаще, чем женщинам. Ошибка может быть даже со стороны программиста, неосознанно вносящего смещения в код.
Но гораздо более тревожными являются профили, созданные о вас, как о человеке. Алгоритмы - это то, как в наши дни рекламодатели и компании ведут бизнес, и где-то есть данные о вас. Эти профили строятся на основе того, что вы делаете в Интернете: какие поисковые запросы вы вводите, в каких интернет-магазинах делаете покупки и так далее. Проблема в том, что вы не знаете, что о вас говорят. Эта проблема может проявляться двумя способами:
Когда алгоритмы используются для персонализации вашего опыта
Первый приходит в форме эффекта пузыря фильтра, когда сайт инкапсулирует каждого пользователя в персонализированную информационную эхо-камеру вещей, с которыми они уже согласны, - не самое лучшее для роста знаний. Это эксперимент, который вы можете провести прямо сейчас, если хотите: попросите двух друзей ввести в Google что-то вроде «Обама» или «Египет» и посмотрите, какие результаты появятся первыми. Результаты, как правило, разные. Эли Паризер, автор книги «Пузырь фильтров: что Интернет скрывает от вас», объяснил пагубные последствия этого процесса в своем выступлении на TED в 2011 году:
Когда алгоритм ошибается
Последнее происходит в виде недоразумений - больших, маленьких, но ни одного из них вы не хотите видеть в своем постоянном профиле. Как обнаружил Фрэнк Паскуале из Aeon, «[одна] женщина была ложно обвинена в торговле метамфетамином частным брокером данных, и ей потребовались годы, чтобы исправить ситуацию - годы, в течение которых арендодатели и банки отказывали ей в жилье и кредит.”
По этим и многим другим причинам должна существовать какая-то алгоритмическая подотчетность - способ, которым пользователи могли бы оспаривать ошибки в системе. Однако лучшим вариантом было бы вообще прекратить сбор данных. Если вы хотите уменьшить количество собираемых о вас данных, начните с использования поисковых систем, которые не отслеживают ваши запросы, таких как DuckDuckGo. Если вы действительно хотите испортить бизнес, сделайте еще один шаг и попробуйте анонимно пользоваться Tor. Голосуйте своими данными или, в данном случае, не предоставляя их.
Фото предоставлено ЖАКОМ ДЕМАРТОНОМ / Getty Staff