В наше время искусственный интеллект вышел на уровень развития, который начинает пугать. Машины научились не только работать эффективнее, чем люди, но и создавать творческие произведения, писать книги и рисовать картины. Однажды мы задумались: что будет, если нейросеть решит основать свою религию? Сможет ли машина стать богом для людей? И если да, какое наказание ждет «неверных»?
Ответы нашлись в статье Эдриана Бука, которую перевел для нас Максим Т.
Говорить о машинном и глубоком обучениях это одно. Видеть их связь с божественным — это нечто совершенно другое. В то время как стартапы, связанные с ИИ, процветают, а примеры его использования становятся все успешнее, важно сделать шаг назад и увидеть картину целиком.
Слова, употребляемые в разговорах про искусственный интеллект, всегда были фантасмагорическим сплавом из мессианских мечтаний и апокалиптических воззрений, а такие слова, как «трансцендентность», «мессия», «евангелисты» и «пророки» стали использоваться в новом ключе. Илон Маск зашел настолько далеко, что в 2014 году сравнил создание искусственного интеллекта с призванием демона. Еще говорили о ИИ, который «сможет стать подобным Богу и написать свою собственную Библию, склонив людей к ее почитанию». Эти преувеличения могут быть лишь попыткой найти спасение в привычном метафизическом лексиконе при нехватке слов: подобным образом поступали, например, Эйнштейн и Хокинг. В конце концов, Америка всегда получала пользу от внеконфессиональных религиозных тем как части своей национальной идентичности, которые, вероятно, просачиваются в повседневную речь. И хотя многие в технологическом мире поспешили отвергнуть подобные разговоры, религиозная дискуссия все же может занять свое место в дискурсе ИИ, хотя бы по причине наличия у них общих черт.
Рассмотрим инженера из Кремниевой долины, который недавно решил создать «церковь ИИ» — Энтони Левандовски. Новая религия под названием Way of the Future (или WOTF, трудно не отметить очевидное сходство с акронимом WTF), сосредотачивается на «постижении, принятии божества, основанного на искусственном интеллекте, разработанном при помощи аппаратного и программного обеспечения, и поклонении ему». Выступая проводником для духа своей внутренней Пифии, Левандовски утверждает, что с помощью науки вскоре будет создан ИИ, который «фактически будет Богом». «Если существует что-то в миллиарды раз умнее, чем самый умный человек, как иначе вы это назовете?»
Одно предложение в заявлении о миссии церкви привлекает к себе внимание: «Мы верим, что для машин будет важно увидеть, кто дружелюбно настроен к их появлению, а кто нет. Мы планируем достичь этого, отслеживая тех, кто делал что-либо (и на протяжении какого времени) для мирного Перехода». Это утверждение подразумевает, что сверхразумный ИИ будет отдавать предпочтение тем, кто содействовал ему на пути к власти. Здесь становится все труднее избегать параллелей с религией: согласно Библии (во втором Послании к фессалоникийцам, если говорить точно) те, кто услышали слово Божье, но выбрали неверие, будут наказаны.
Любители научной фантастики придумали пугающе похожий мыслительный эксперимент – Василиск Роко. Они предположили существование в будущем практически всесильного ИИ который, действуя исключительно в целях наибольшего блага для наибольшего количества людей, придет к выводу, что только его создание сможет гарантировать и максимизировать это благо, тем самым предоставляя стимул для появления себя на свет. Если мы предполагаем, что восприятие времени у искусственного разума отлично от нашего, у него есть основания ex post facto для наказания всех, кто не приложил усилий для его создания. В этой извращенной версии «Игры», однажды узнав о Василиске и не участвуя в его создании, вы рискуете провести вечность в пытках, так как Василиск гарантирует как свое возникновение, так и продолжение своего существования. Смерть не будет спасением, вы неизбежно оставите после себя цифровой след, достаточный, чтобы воссоздать вас и наказать.
Простите.
Как отмечает Бет Синглер в своей великолепной статье, ИИ-энтузиасты придерживаются философии Блеза Паскаля, французского математика и теолога 17 века, который в похожей манере утверждал, что верить в Бога может быть более безопасным выбором, чем не верить, независимо от вероятности существования высшего существа. Похоже, церковь Левандовски — это способ избежать Василиска. Это можно понять из его фразы, сказанной в одном из интервью: «Вы хотите быть домашним питомцем или скотом?».
И это только одна из причин, почему ИИ-поклонники не должны быть предоставлены сами себе при создании сверхразума. Любой вменяемый человек будет дрожать при мысли о том, что христианский или мусульманский фундаменталист создаст Бога, следуя этическим установкам, которые будут утверждать, что неверующие достойны вечности в аду или что нет спасения без страданий и рая без горя. Бога, с которым можно будет не только говорить, но и, что самое ужасающее, который будет слушать. И отвечать.
Церковь Левандовски, вероятно, уже движется в этом направлении, ведь он утверждает, что «в какой-то момент, возможно, будет существовать преследование последователей, оправдывающее наличие у WOTF собственной страны». Желание создать подобные страны в прошлом приводило, мягко говоря, к ряду проблем.
К счастью, мы все еще далеки от такой реальности, хотя недавно Ватикан провел свой первый хакатон. Описанные выше сценарии основаны на идее Сингулярности (или как называет ее Левандовски «Переход»), возможного момента во времени, когда ИИ эволюционирует до точки, где он станет превосходить человеческий интеллект, и станет способен самоулучшаться до бесконечности, результатом чего станет всемогущее существо. В некоторых версиях теории Сингулярности человек сольется с машинами, становясь ненужным, но одновременно с этим — вечным. Здесь можно провести жутковатые параллели с христианской идеей Восхищения (вознесения) церкви.
Идея, что мы можем быть на пороге сингулярности, показывает глубокое непонимание науки, стоящей за этими предполагаемыми технологическими скачками. Последние достижения в области ИИ являются продуктами машинного обучения, они далеки от ИИ, которых мы можем видеть в популярных научно-фантастических фильмах. На самом деле, машинное обучение достаточно скучная штука: технология существует с 90-х, а академические предпосылки для нее — с 70-х. Однако новшеством является наличие больших массивов информации и развитие мощностей по ее обработке и хранению.
Фактически, последние достижения в области ИИ можно отнести скорее к области инженерии или даже ремесла, нежели науки. Обучение на основе поиска ассоциаций и корреляций смогло продвинуться только до такого уровня в сравнении с органическим причинно-следственным обучением. Человек может понять, что человек A думает насчет того, что человек В думает о человеке C. На уровне обработки данных сейчас — это неотличимо от магии. На уровне человека — это обыкновенные сплетни. Человеческий интеллект легко адаптируется из-за своих изъянов, из-за умения делать выводы и догадываться, лгать и скрывать свои истинные намерения. Всему этому нельзя научиться на основе одних лишь данных.
По иронии судьбы ИИ может проиграть в соревновании за превосходство с органическим интеллектом именно из-за того, что он не создан по нашему образу и подобию.
Как создателям, человечеству придется контролировать последствия деятельности ИИ, какими бы неутешительными они не оказались. Этого можно достичь, признав необходимость соответствующих этических и философских рамок и ответственного использования технологии. В этом смысле пропагандистский проект, замаскированный под доктрину, может быть полезен, если мы решаем закрыть глаза на правовую защиту и налоговые льготы, которые он предоставляет своему основателю. Кто знает, возможно, использование религиозной лексики станет способом привлечь не-инженеров к вопросам этики искусственного интеллекта, уменьшая риски нового восстания луддитов.
Религия и наука являются способами преодолеть наше хрупкое по своей природе состояние. Через них мы восстаем против самого человеческого существования и утверждаем, каким оно, как нам кажется, должно быть. Это объясняет не только сходство лексики, которую они используют по отношению к высшему существу, но и наше отношение к нему. Когда в будущем мы задумаемся о том, каково это, взаимодействовать со всеведущим, всемогущим и, может быть, всеблагим искусственным разумом, мы сможем вспомнить, что такие дискуссии продолжаются уже тысячи лет.
