Есть ли на самом деле что-нибудь, заслуживающее термина ИИ?
Одним из популярных мемов в литературе, кино и технической журналистике является то, что творение человека восстанет и уничтожит его.
В последнее время это приняло форму страха перед тем, что ИИ станет всемогущим, поднимется и уничтожит человечество.
Экономика вскочила на подножку ИИ; на определенный период, если у вас не было «ИИ» в вашей презентации для инвесторов, вы могли забыть о финансировании. (Совет: если вы просто используете службу Google для пометки некоторых изображений, вы не используете искусственный интеллект.)
Однако есть ли на самом деле что-то, заслуживающее термина ИИ? Я хотел бы отметить, что это не так, и что наше нынешнее мышление слишком сосредоточено на работе с системами, не думая много о людях, использующих их, что лишает нас истинных преимуществ.
То, что компании в настоящее время используют в дикой природе, - это почти исключительно статистические механизмы распознавания образов и репликации. По сути, все эти системы следуют схеме «обезьяна видит, обезьяна делает»: они получают определенный объем данных и пытаются максимально точно имитировать некоторые известные (или сфабрикованные) выходные данные.
При использовании для предоставления ценности вы даете им некоторые реальные данные и читаете прогнозируемый результат. Что, если они столкнутся с невиданными ранее вещами? Что ж, вам лучше надеяться, что эти «новые» вещи достаточно похожи на предыдущие, иначе ваша «интеллектуальная» система будет давать совсем глупые ответы.
Но здесь нет ни малейшего понимания, рассуждений и контекста, просто воссоздание увиденного ранее. Система распознавания изображений, обученная обнаруживать овец на изображении, не имеет ни малейшего представления о том, что на самом деле означает «овца». Однако эти системы настолько хорошо воссоздали выходные данные, что иногда кажется, что они знают, что делают.
Разве этого недостаточно, спросите вы? Ну, для некоторых ограниченных случаев, это так. Но он не является «интеллектуальным», поскольку ему не хватает какой-либо способности рассуждать, и ему нужны информированные пользователи для выявления менее очевидных выбросов с возможными вредными последующими последствиями.
Лестница мышления имеет три ступени, изображенные на графике ниже:
Имитация: Вы имитируете то, что вам показали. Для этого не нужно никакого понимания, только корреляции. Вы способны вспомнить и воспроизвести прошлое. Лабораторные мыши или современные системы искусственного интеллекта находятся на этой ступени.
Вмешательство: Вы понимаете причинно-следственные связи и способны понять, что произошло бы, если бы вы сейчас сделали это, основываясь на том, что вы узнал о мире в прошлом. Для этого требуется ментальная модель той части мира, на которую вы хотите повлиять, и наиболее важные из ее нижестоящих зависимостей. Вы способны представить другое будущее. На этой ступеньке вы встретите собак и маленьких детей, так что это неплохое место.
Рассуждения против фактов: Высшая ступень, на которой вы задаетесь вопросом, что произошло бы, если бы вы сделали то или иное в прошлом. Для этого требуется полная модель мира и способ смоделировать мир в вашей голове. Вы способны представить несколько прошедших и будущих. Здесь вы встретите ворон, дельфинов и взрослых людей.
Чтобы подняться с одной ступени на другую, вам необходимо развить совершенно новый набор навыков. Вы не можете просто увеличить систему имитации и ожидать, что она внезапно сможет рассуждать. Тем не менее, это то, что мы сейчас делаем с нашими постоянно растущими моделями глубокого обучения: мы думаем, что, дав им больше возможностей для имитации, они в какой-то момент волшебным образом разовьют способность мыслить. Помимо самообманной надежды и продажи хороших историй инвесторам и газетам, нет особых причин верить в это.
И мы даже не коснулись темы вычислительной сложности и экономического и экологического воздействия постоянно растущих моделей. Возможно, мы просто не сможем увеличить наши модели до необходимого размера, даже если метод сработает (чего пока нет).
Что бы ни создавали эти системы, это просто подобие интеллекта, и, преследуя цель создания искусственного интеллекта путем имитации, мы следуем карго-культу.
Вместо этого мы должны смириться с тем фактом, что нынешние способы не приведут к реальному ИИ, и мы должны перестать так его называть. Машинное обучение (ML) - идеально подходящий термин для инструмента с потрясающими возможностями в узких областях, где его можно применять. И с любым инструментом вы не должны пытаться сделать весь мир своим ногтем, а вместо этого выяснить, где его использовать, а где нет.
Машины сильны, когда речь идет о быстром и многократном выполнении задачи с минимальной неопределенностью. Это правящий класс первой ступени.
Люди сильны, когда дело доходит до контекста, понимания и осмысления, когда под рукой очень мало данных и высока неопределенность. Это правящий класс второй и третьей ступени.
А что, если мы сосредоточим наши усилия от нынешней одержимости устранением человеческого фактора во всем и подумаем об объединении обеих сильных сторон? Существует огромный потенциал в том, чтобы придать системам машинного обучения оптимальную, ориентированную на человека форму, найти правильный человеко-машинный интерфейс, чтобы оба могли сиять. Система машинного обучения подготавливает данные, выполняет некоторые автоматизированные задачи, а затем передает результаты человеку, который затем обрабатывает их в соответствии с контекстом.
ML может стать чем-то вроде хорошего персонала для генерального директора, рабочей лошадкой для фермера или хорошим пользовательским интерфейсом для пользователя приложения: расширить возможности, сэкономить время, уменьшить количество ошибок.
Создание системы машинного обучения для конкретной задачи довольно просто и будет становиться еще проще. Но найти надежную, работающую интеграцию данных и предварительно обработанных результатов данных с лицом, принимающим решения (то есть человеком), - сложная задача. Есть причина, по которой большинство проектов машинного обучения терпят неудачу на этапе внедрения/интеграции с организацией, стремящейся их использовать.
Решение этой задачи - творческая задача: речь идет о понимании предметной области, разработке продукта и общении. Вместо того, чтобы расширяться, скажем, для показа более таргетированной рекламы, истинный приз заключается в разумном объединении данных и людей для принятия более эффективных решений и решения более сложных и важных проблем.
Публикуется с разрешения Всемирного экономического форума. Прочтите исходную статью.