Команда Deep Brain из Google наблюдала, как нейронные сети учатся разрабатывать собственное шифрование.
Команда Google Deep Brain работает над искусственным интеллектом с разных точек зрения. Например, в мае прошлого года их проект Magenta попытался научить ИИ создавать искусство и музыку.
Magenta art (GOOGLE)
Многое из того, что делает команда, довольно непонятно для неученых, но они только что объявили кое-что, что мы все можем понять, и это глупо: два ученых Deep Brain, Мартин Абади и Дэвид. Андерсен недавно поручил двум нейронным сетям сохранить секрет от третьего. Они обнаружили, что «нейронные сети могут научиться защищать конфиденциальность своих данных от других нейронных сетей: они открывают формы шифрования и дешифрования без обучения конкретным алгоритмам для этих целей».
Нейронные сети - системы на основе искусственных нейронов - не предназначены для криптографии, поэтому Абади и Андерсену было любопытно посмотреть, смогут ли нейронные сети научиться этому.
Нейронные сети были названы Алисой, Бобом и Евой. В эксперименте перед Алисой была поставлена задача отправить Бобу сообщение, которое мог прочитать только он. (Я собираюсь использовать здесь человеческие местоимения вместо более правильного «it», чтобы упростить понимание.) Две нейронные сети использовали общий числовой ключ шифрования. У Евы не было ключа, и она была предоставлена сама себе, чтобы понять сообщение.
На этой диаграмме P - исходное сообщение, а K - общий ключ Алисы и Боба. C - это зашифрованное сообщение Алисы, полученное Бобом и Евой, каждый из которых пытался его расшифровать. (GOOGLE)
Сначала Ева была довольно хороша в этом, но по мере того, как Алиса и Боб становились умнее в течение 15 000 попыток, частота неудач Евы оставалась стабильной, поскольку общение Боба и Алисы стало последовательно успешным.
Алиса и Боб применили несколько интересных трюков с шифрованием, в которых использовались вычисления, которые не используются в схемах шифрования, созданных человеком. Подобно другой логике, с помощью которой AlphaGo от Google удивил и победил мастера го Фан-Хуэя в январе прошлого года, Алиса и Боб делали вещи, чтобы скрыть свои сообщения, которые никогда не пришли бы в голову человеку.
Хотя легко понять, что шифрование, разработанное с помощью ИИ, может обеспечить целостность межмашинных коммуникаций во время безопасных операций с несколькими устройствами, это также вызывает некоторую тревогу. Алиса и Боб - первые нейронные сети, сохранившие секреты от своих программистов. О которых мы знаем.