Израиль недавно убил ведущего иранского ученого-ядерщика. Само по себе это может быть новостью, но не будет тем, о чем я говорю. Однако умная пушка с искусственным интеллектом, использующая распознавание лиц, поднимает целый ряд моральных проблем. Давайте посмотрим на историю, а затем кратко обсудим как проблему конфиденциальности с распознаванием лиц, так и вопросы автономной войны.
Убит иранский ученый
Futurism сообщает:
Ведущий иранский ученый-ядерщик Мохсен Фахризаде был убит из снайперской винтовки с искусственным интеллектом, дистанционно управляемой израильскими оперативниками. […]
Пистолет вместе с его передовым роботизированным устройством весил примерно тонну, по данным NYT. Израильские оперативники контрабандой переправили оружие и его части в Иран, прежде чем собрать его заново.
Вся система была затем установлена в кузове пикапа, в котором было несколько камер, чтобы дать израильским оперативникам полную картину окрестностей. Грузовик также был начинен взрывчаткой, чтобы взорвать любые улики после того, как миссия будет завершена или скомпрометирована.
Само орудие было подключено к израильскому командному центру через ретранслятор спутниковой связи. Там оперативник мог управлять ружьем и наводиться на цель через экран компьютера.
ИИ был разработан для того, чтобы компенсировать движение автомобиля Фахризаде и 1,6-секундную задержку между камерой и тем, что увидел оператор. Программное обеспечение для распознавания лиц также использовалось, чтобы гарантировать, что винтовка будет нацелена только на иранского ученого, спасая при этом жизнь его жены.
Кажется, хорошо, что эта большая точность может спасти жизнь жены, что хорошо, но это не единственная проблема.
Распознавание лиц
Я уже писал о программном обеспечении для распознавания лиц:
Это может предотвратить некоторые преступления или поймать некоторых преступников. Мужчина отказывается от кражи в магазине, поскольку знает, что его поймают, поскольку камера видеонаблюдения магазина сопоставит его лицо с универсальной базой данных. Или преступника в бегах поймали, когда он проходил мимо угла, где полицейская камера использует распознавание лиц. Это, несомненно, хорошие вещи. Однако стоят ли они того?
В городах уже есть ощущение, что как только вы выходите из дома, в каждом районе, в котором вы находитесь, вероятно, где-то есть запись с камеры наблюдения. В некоторых частях городов у полиции почти на каждом углу стоят камеры. Однако, как только эти камеры будут подключены и оснащены технологией распознавания лиц, никто из нас не сможет пойти выпить чашечку кофе с другом без того, чтобы это не стало достоянием общественности. Если вас засняли на камеру в состоянии алкогольного опьянения, даже если друг отвезет вас домой, вы можете получить штраф по почте.
Год назад сенатор Дурбин задал Марку Цукербургу несколько вопросов о конфиденциальности. Один из них был: «Не могли бы вы поделиться с нами названием отеля, в котором вы останавливались прошлой ночью?» Очевидно, даже Цукербургу было неудобно делиться этим. Мы все хотим определенной степени конфиденциальности в отношении того, что мы делаем, но с широким использованием распознавания лиц это кажется невозможным.
Прикрепление этого к оружию может легко означать смерть, а не просто штраф по почте за публичное опьянение. Невозможно обжаловать пулю в голову, как если бы у кого-то было алиби, когда его обвиняли в публичном опьянении. Казалось, что у этого пистолета все еще есть человек-оператор, решающий, когда стрелять, чтобы предотвратить это, но это действительно создает опасность.
Автономная война
Большая опасность, к которой мы, похоже, движемся, - это автономная война. Когда у нас есть такое высокоточное оружие с дистанционным управлением, где человек сертифицирует и настраивает его для запуска, мы всего лишь в шаге от этого.
Наблюдатель ООН от Ватикана отметил проблемы с автономными роботами-убийцами только в прошлом месяце.
Ватикан заявил 3 августа, что потенциальной проблемой является «использование стаи мини-дронов-камикадзе» и другого передового оружия, использующего искусственный интеллект в режимах наведения и атаки. LAWS [Lethal Autonomouns Weapons Systems], заявил Ватикан, «создают потенциальные серьезные последствия для мира и стабильности». […]
ЗАКОНЫ могут «необратимо изменить характер войны, еще больше отделив ее от человеческого участия». […]
“Многие организации и ассоциации, а также правительственные лидеры согласны с тем же, что решения о жизни и смерти не могут быть отданы на аутсорсинг машине. Святой Престол сказал это не хуже других», - сказал Джонатан Фрерихс, представитель Pax Christi International в ООН по вопросам разоружения в Женеве.
Он сказал католической службе новостей, что неэтично полагать, что «мы можем притворяться, что наше будущее может служить решениями о жизни и смерти, которые можно передать алгоритму».
Это не актуально сегодня. В декабре состоится обзор договора о запрещении некоторых видов неядерного оружия, и можно было бы легко добавить LAWS. Мы должны молиться за эту встречу в Женеве и подготовить все, что в наших силах, чтобы поддержать запрет такого оружия.
Вывод
Оружие, которое может быть более точным, полезно, поскольку оно снижает вероятность сопутствующей смерти и ранения невинных людей. Гораздо лучше, если в бою вы можете просто взорвать вражескую базу, а не школу в квартале от нее. Это стало даже более важным в таких вещах, как поиск террористов, чем в борьбе с национальными армиями. В этом может помочь распознавание лиц, особенно когда речь идет о дистанционном оружии, которое должно следовать за целью и получать сигнал только через секунду после того, как человек одобрил выстрел из пистолета. Тем не менее, мы должны знать о проблемах конфиденциальности с распознаванием лиц, возможных ошибках с распознаванием лиц и серьезных моральных проблемах с полностью автономной войной, на которую это, похоже, направлено. Нам нужно молиться, чтобы автономное оружие было запрещено, когда договор будет рассмотрен в декабре этого года.
Примечания:
- Я оставил в стороне вопрос о том, является ли это законной самообороной или просто войной со стороны Израиля, так как это будет совсем другой пост. Вполне вероятно, что это будет законной самообороной, если он находится в процессе создания оружия, которое, по словам его боссов, будет использовано для убийства миллионов ирсаэлитов, но это можно обсудить.
- Пожалуйста, поддержите меня на Patreon, чтобы я мог продолжать писать больше подобных анализов, объясняющих католическое моральное учение о текущих событиях и особенно о конфиденциальности.
Стань покровителем!