Пользователи Facebook по всему миру начинают понимать, что некоторые из их любимых технологий могут быть использованы против них. Дело не только в скандале, связанном с тем, что фирма Cambridge Analytica, занимающаяся психологическим профилированием, получила доступ к данным из десятков миллионов профилей в Facebook. Пузырьки фильтров людей заполнены тщательно подобранной информацией - и дезинформацией - изменяя их поведение и мышление, и даже их голоса.
Люди, как индивидуально, так и общество в целом, борются за то, чтобы понять, как их новостные ленты обернулись против них. Они начинают понимать, насколько тщательно контролируются каналы Facebook с тщательно подобранной рекламой. Однако этот набор проблем меркнет по сравнению с теми, которые ставит следующая технологическая революция, которая уже началась: виртуальная реальность.
С одной стороны, виртуальные миры обладают почти безграничным потенциалом. VR-игры могут лечить наркоманию и, возможно, помочь решить проблему опиоидной эпидемии. Заключенные могут использовать виртуальную симуляцию, чтобы подготовиться к жизни после освобождения. Люди спешат окунуться в эти иммерсивные впечатления, которые потенциально могут быть психологически более мощными, чем любая другая технология на сегодняшний день: первое современное оборудование, дающее такую возможность, было распродано за 14 минут.
В этих новых мирах каждый лист, каждый камень на виртуальной земле и каждый разговор тщательно продуманы. В нашем исследовании нового определения этики в виртуальной реальности мы с коллегами опросили разработчиков и первых пользователей виртуальной реальности, чтобы понять, какие риски возникают и как мы можем их уменьшить.
Интенсивность повысится
«Виртуальная реальность - это очень личная, интимная ситуация. Когда надеваешь VR-гарнитуру… ты действительно в это веришь, это действительно иммерсивно», - говорит один из разработчиков, с которым мы поговорили. Если кто-то причинит вам вред в виртуальной реальности, вы это почувствуете, а если кто-то манипулирует вами, заставляя во что-то верить, это останется навсегда.
Это погружение - это то, чего хотят пользователи: «Виртуальная реальность - это действительно погружение… В отличие от телевизора, где я могу постоянно отвлекаться», - сказал нам один пользователь. Эта иммерсивность дает VR беспрецедентную силу: «на самом деле то, что VR пытается здесь сделать, - это дублировать реальность, обманывая ваш разум».
Эти трюки могут быть забавными - позволяя людям летать на вертолетах или путешествовать в древний Египет. Они могут быть полезны, предлагая обезболивание или лечение психологических состояний.
Но они также могут быть вредоносными. Даже обычный розыгрыш, который друзья разыгрывают друг над другом в Интернете - вход в систему и публикация от имени друг друга - может приобрести совершенно новое измерение. Один пользователь виртуальной реальности объясняет: «Кто-то может надеть головное устройство виртуальной реальности и войти в виртуальный мир, приняв вашу личность. Я думаю, что кража личных данных, если виртуальная реальность станет мейнстримом, станет безудержной.”
Данные будут еще более личными
VR сможет собирать данные на совершенно новом уровне. На первый взгляд безобидные инфракрасные датчики, разработанные для помощи при укачивании и выравнивании, могут почти идеально отображать реальное окружение пользователя.
Кроме того, данные и взаимодействия, которые дают виртуальной реальности возможность лечить и диагностировать физические и психические состояния, могут использоваться для гиперперсонализации опыта и информации с учетом точных уязвимых мест отдельных пользователей.
Вместе интенсивность опыта виртуальной реальности и еще больше личных данных, которые они собирают, представляют собой призрак фальшивых новостей, который намного мощнее, чем текстовые статьи и мемы. Скорее, иммерсивный, персонализированный опыт может полностью убедить людей в совершенно альтернативных реальностях, к которым они совершенно восприимчивы. Такая иммерсивная VR-реклама появится на горизонте уже в этом году.
Строим виртуальное будущее
Человек, который использует виртуальную реальность, часто добровольно находится под контролем в гораздо большей степени, чем это было возможно раньше. Все, что человек видит и слышит - и, возможно, даже чувствует или обоняет - полностью создано другим человеком. Эта капитуляция несет в себе как обещание, так и опасность. Возможно, в тщательно сконструированных виртуальных мирах люди смогут решать проблемы, которые в реальности ускользали от нас. Но эти виртуальные миры будут построены внутри реального мира, который нельзя игнорировать.
Пока технические специалисты и пользователи очищают злонамеренное и манипулятивное прошлое, им нужно будет выйти далеко за рамки того, чтобы сделать социальные сети более здоровыми. Так же тщательно, как сами разработчики строят виртуальные миры, общество в целом должно намеренно и кропотливо создавать культуру, в которой существуют эти технологии.
Во многих случаях разработчики являются первыми союзниками в этой борьбе. Наше исследование показало, что разработчики VR больше заботились о благополучии своих пользователей, чем сами пользователи. Тем не менее, один разработчик признает, что «дело в том, что… я могу пересчитать по пальцам количество опытных разработчиков, которых я действительно встречал». Даже эксперты только начали изучать этику, безопасность и конфиденциальность в сценариях виртуальной реальности.
Разработчики, с которыми мы разговаривали, выразили желание получить рекомендации о том, где провести границы и как предотвратить опасное злоупотребление их платформами. В качестве первого шага мы пригласили разработчиков и пользователей виртуальной реальности из девяти онлайн-сообществ для совместной работы над созданием набора рекомендаций по этике виртуальной реальности. Они внесли предложения об инклюзивности, защите пользователей от манипулятивных атак и ограничениях на сбор данных.
Как показывает фиаско с Facebook и Cambridge Analytica, люди не всегда следуют руководящим принципам или даже правилам и политикам платформ - и последствия в этом новом мире виртуальной реальности могут быть еще хуже. Но наш первоначальный успех в достижении соглашения по руководящим принципам виртуальной реальности служит напоминанием о том, что люди могут не считаться с технологиями, которые создают другие: мы можем работать вместе, чтобы создавать полезные технологии, которые нам нужны.
- Элисса Редмилес, доктор философии. Студент факультета компьютерных наук Мэрилендского университета