Наш краткий антропоцен и грядущий алгоритмоцен

С 26 октября у наших патронов и бустеров появилась возможность читать предрелизные материалы Local Crew и пилотным текстом для этой опции мы выбрали абсолютно крышесносный текст про Алгоритмоцен.
Про Антропоцен вы, наверное, уже слышали, а вот про следующую за ним эпоху Алгоритма вряд ли. 

Сегодня мы публикуем статью в свободном доступе!

Оригинальный материал опубликован впервые на Medium, а перевод подготовил Александр Заяч.

---

Недавние вестники необратимого ущерба, который мы, люди, наносим планете, оказались потеряны в какофонии ужасных новостей.

Согласно исследованию, опубликованному в августе этого года в журнале «Nature», таяние ледяной шапки Гренландии, по сути, прошло точку невозврата. И, как выразился один из соавторов исследования: «…очевидно, это только начало». Сейчас есть серьезные основания полагать, что другие необратимые климатические переломные моменты, такие как обезлесение, таяние вечной мерзлоты и замедление океанических течений, уже стремительно приближаются. Все больше ученых-климатологов рассматривают сценарий Межправительственной группы экспертов по изменению климата (IPCC) «Господи, помилуй», когда-то почти повсеместно отвергнутый как алармистское «климат-порно», в качестве базового сценария будущего[1].

Кроваво-оранжевые небеса и разрушенные дома от исторических лесных пожаров в США, как и недавние пожары в Амазонии и Австралии, открывают мрачные перспективы такого будущего. Это также печальное будущее для дикой природы и сред обитания. Разрушения в США в этом году все еще продолжаются, но только во время прошлогодних австралийских пожаров погибло более миллиарда животных и, как полагают, столько же деревьев. Экосистема Амазонии никогда не была приспособлена для того, чтобы справляться с пожарами, но это тоже часть ее будущего. В результате этого, крупнейший в мире тропический лес и богатейший запас биоразнообразия в ближайшие несколько десятилетий может превратиться в сухую саванну. В целом с 1970 г. планета потеряла почти 70% биосферы, и, возможно, половина всех видов исчезнет к концу этого столетия в результате того, что сегодня признано 6-м Великим Вымиранием. Здесь так же когда-то немыслимое больше похоже на неотвратимое.

Как бы неожиданно это ни звучало, изменение климата и исчезновение видов – это лишь часть масштабных разрушений, которые эпоха человека (или антропоцен) формирует в этом столетии. На мой взгляд, это примерно половина. Вот четыре основных глобальных тренда, которые в будущем оставят свой «геологический след», именно они формируют этот век:

• Иррациональная человеческая демография
• Изменения климата
• Вымирание видов
• Нерегулируемый искусственный интеллект

Каждая из этих тенденций сама по себе достаточно велика и сложна, чтобы считаться самостоятельным «вызовом столетия» для цивилизации. Поэтому они часто обсуждаются как происходящие по отдельности, но, конечно, они не являются чем-то независимым. Вместо этого они глубоко взаимосвязаны и опутывают триаду нашего мира: общество, окружающую среду и технологии. Их объединение в девятый вал в этом столетии – не совпадение. Они также движимы социально-экономическими правилами, столь же древними, как и неолитическая революция. По крайней мере, по моему мнению, это гарантирует их продолжение независимо от того, сколько предупредительных огней светит нам в лицо.

В то время как человечество беспечно смотрит в сторону поистине немыслимого, одним из возможных результатов этого столетия является печально известный Великий Фильтр: коллапс мировой цивилизации и, возможно, человека как вида. Насколько нам известно, это может быть самым вероятным исходом. Но, как и многие другие, я бы не стал приравнивать этот сценарий к полному исчезновению нашего вида или даже наших технологий. Минимальная жизнеспособная человеческая популяция, необходимая для того, чтобы избежать вымирания, составляет, по оценкам, менее 1000 особей. Этим можно было бы легко управлять, например, в нескольких самоподдерживающихся пещерных системах. Особенно если в таких экстремальных условиях непропорционально большое число выживших являются инженерами.

Но если выжившие, в конце концов, заново заселят планету, или цивилизации как-то удастся предотвратить коллапс, то можно утверждать, что динамика взаимодействия между человеческим обществом, окружающей средой и технологиями может быть совсем иной. Настолько иной, что как бы ни разыгрывался этот век, термин «антропоцен», как описывающий новую эпоху в истории Земли, может оказаться не таким подходящим, как другой – «алгоритмоцен».

XXI век в контексте истории Земли

Перед тем, как углубляться в этот предмет, давайте разберемся в величине каждого из вышеперечисленных четырех трендов в контексте их будущего «геологического следа» на Земле.

Подобно тому, как симфония разбита на части, 4,5 миллиарда лет истории Земли организованы геологами по вложенным временным промежуткам, эоны, эры, периоды и эпохи (пренебрегая для простоты кратчайшим промежутком – столетием). В частности, эоны (2 млрд–542 млн лет) подразделяются на эры (1 млрд–230 млн лет), которые делятся на периоды (80–25 млн лет), которые делятся на эпохи (30–10 млн лет).

То, что мы рассматриваем как человеческую цивилизацию, началось с неолитической революции и произошло в следующих промежутках:

• Голоценовая эпоха – последние 11 000 лет с момента окончания последнего ледникового периода.
• Четвертичный период – последние 2,5 млн. лет, в течение которых климатические колебания были обусловлены циклами Миланковича во вращении Земли
• Кайнозойская эра – последние 65 миллионов лет с тех пор, как бродячий астероид положил конец царствованию динозавров и проложил путь для эпохи млекопитающих.
• Фанерозойский эон – последние 540 миллионов лет после Кембрийского Взрыва создали фантастическое разнообразие сложной жизни, которое мы наблюдаем до сих пор.

Отличительной особенностью является то, что каждый из вышеперечисленных пунктов является самым коротким в своей соответствующей временной единице. То есть наш голоцен – самый короткий из 38 эпох Земли. Точно так же наши четвертичный, кайнозойский и фанерозойский – самые короткие из 22-х периодов Земли, 10 эр и 4-х эонов соответственно. Если бы мы представляли себе их выборку в качестве независимых случайных образцов[2], то шансы получения этой полосы были бы около 0.003%; те же самые шансы, что и вытянуть флеш-рояль в 7-карточном техасском холдеме.

Несомненно, это просто странное совпадение (в астрономии это в некоторой степени похоже на «закон Боде», который показывает совпадения на планетарных орбитах Солнечной системы). Но если мы хоть на минуту притворимся, что это не так, тенденция предскажет что-то интересное (точно так же, как Закон Боде предсказал орбиту Нептуна). А именно, что наша нынешняя голоценовая эпоха должна закончиться раньше.

И действительно, мы знаем, что голоцен заканчивается уже прямо сейчас. Где-то в следующем году или около того Международная Комиссия по Стратиграфии должна официально ввести в историю нашей планеты долгожданный антропоцен или эпоху человека[3].

В соответствии с вышеизложенной тенденцией, изменения, которые произошли благодаря нашему виду, идут гораздо дальше, чем переход в следующую эпоху. В частности, мы видим следующее:

• Человеческая демография завершает голоцен. Это, конечно, заложено в самом названии антропоцена – эпохи человека. Но не наши голые цифры как таковые, а наш образ жизни изменил все.
• Изменение климата завершает 2,5 млн. лет четвертичного периода. Например, в связи с нарушенными в настоящее время циклами климатических колебаний Миланковича, по оценкам ученых, следующий ледниковый период задерживается не менее чем на 100 000 лет. Но даже это нарушение не такое долгое, как следующее.
• Вымирание видов заканчивает 65 миллионов лет кайнозойской эры. Великие события вымирания обозначили границы геологических эпох со времен Кембрия. Наш кайнозой, означающий «новую жизнь», начался с исчезновения 75% всех видов в 5-ом Великом Вымирании. В будущем окаменелости должны быть закреплены в списке 6-ым Великим Вымиранием.

Оторваны от действительности нашей ситуации

Прежде чем углубиться в список «геологических следов», давайте сделаем паузу и заметим о себе кое-что существенное. Тот факт, что даже наша «обычная» цивилизационная деятельность (то есть без ядерной войны и тому подобного) идет вразрез с последними 65 миллионами лет земной истории, не может не беспокоить всех нас. Такой пугающий итог должен привести нас, как рациональных, цивилизованных существ, к немедленному и полному пересмотру нашей повседневной жизни и социально-экономических правил, которые и привели нас сюда.

Но, конечно, ничего подобного не происходит, и ждать этого не стоит. В конце концов, мы все еще строим дома посреди пожароопасных зон и пойменных территорий. Даже во время этой пандемии рациональные в остальном люди с радостью собираются в больших толпах безо всяких масок. Спустя более 50 лет после первых официальных предупреждений на самом высоком уровне в правительствах и промышленности, глобальные выбросы углекислого газа все еще отражают только одно: глобальный ВВП. Короче говоря, апокалипсис остается абстрактным и отдаленным до тех пор, пока мы думаем, что сможем лично избежать его последствий. Как отметил климатолог Кен Калдейра в «Guardian»: «Если люди достаточно богаты, чтобы купить кондиционер, они могут смотреть по телевизору все, что пустят в эфир вместо «Игры Престолов», по мере того, как окружающая их природа разваливается на части».

Пример тому: даже после подсчета я не изменил свой ежедневный распорядок дня. Конечно, для западного горожанина я стараюсь вести себя (если можно вообще так сказать) «экологически сознательно». Но только до тех пор, пока это поведение не ударит в реальную болевую точку. Такие вещи, как переработка отходов, общественный транспорт и покупка экологически чистых продуктов с местных ферм, к счастью, просты там, где мы живем. Однако же я все еще наслаждаюсь своими любимыми сериалами и каналами Youtube с углеродным следом 10 кг в час. И я, конечно же, не откажусь от своих пяти чашек кофе в день, каждая из которых имеет водный след 130 литров на чашку.

Это не потому, что я не верю в опасности, о которых пишу, а потому, что такова наша человеческая природа. По крайней мере, таковы люди в технологичных обществах. От «низа пирамиды» до «верхнего 1%» и по всему спектру политических убеждений, подавляющее большинство из нас не покинет поведенческие зоны комфорта до тех пор, пока нас не взорвут динамитом. Да, для этого есть глубоко укоренившиеся социально-психологические причины. Но это еще и потому, что технологическая цивилизация основана на простой предпосылке. Даже когда мы сталкиваемся с проблемами собственного производства, зачем улучшать свое поведение, если вместо этого можно улучшить технологию?

Грядёт алгоритмоцен

Это подводит нас к экзистенциальной иронии данного момента в истории человечества. Проблемы, созданные нашей технологической цивилизацией, настолько масштабны и приближаются так быстро, что только искусственное чудо может теперь предотвратить наихудшее. Если его вообще можно предотвратить. Обвиняй кого хочешь – жадный 1% и их политических дружков, социально-экономическое неравенство, плохое образование, расточительную культуру потребления, провальные моральные устои человечества в целом и даже саму неолитическую революцию – всё это может иметь место. Но эти дебаты также имеют многовековую историю, и в ближайшей перспективе они попросту не имеют смысла. Если оставить в стороне желаемое, то на данный момент в XXI веке у нас просто нет времени для улучшения человеческого поведения. Единственное чудо, на которое можно надеяться – это технология.

Понятно, что это не столько утопический аргумент, сколько фаталистический. Риск того, что это чудо-лечение будет хуже, чем болезнь, вполне реален. И все равно может быть уже слишком поздно: даже если «инновации – это неограниченный ресурс», как утверждает Рамез Наам, это не имеет значения, когда ограничено время. Каждая рухнувшая в истории цивилизация – свидетельство этого факта.

В любом случае, нарушив естественное равновесие Земли, наша глобальная цивилизация XXI века будет изо всех сил пытаться навязать равновесие искусственное. И по мере развития технологий, искусственный интеллект обладает наибольшим потенциалом, чтобы заполнить эту нишу.

ИИ уже ведет величайшую технологическую гонку вооружений в истории. Бизнесы и государства от мала до велика уже рассматривают ИИ как важнейшую стратегическую инвестицию в собственное будущее. От финансов, проектирования, производства, продаж и транспорта до сельского хозяйства, политики, правоохранительных органов, трудового процесса, социальной жизни, здравоохранения и развлечений – ИИ уже преображает то, как устроен наш мир. Он также (можно даже сказать, неудивительно) преобразует то, как действуют наши хрупкие умы.

Однако очевидно и то, что история искусственного интеллекта на планете Земля едва началась. Его возможности растут, а преобразование каждого уголка жизни уже началось. Какие бы страхи (обоснованные или необоснованные) ни были у нас касательно Терминатора: масштаб и сложности ориентирования в этом столетии, обеспечат то, что ИИ станет доминирующим фактором, формирующим мир, который продолжает развиваться. Настолько, что понятие ИИ как «человеческого инструмента», в конце концов, потеряет свой смысл.

Но до того как это вызовет тревогу: ни что из вышесказанного не является претензией на «технологическую сингулярность», «самосознание» ИИ или даже искусственный разум в целом (по различным причинам скептически отношусь к этим вопросам). Это скорее размышление о том, как будет происходить обработка информации на планете Земля. И о том, как такую активность вообще понимать.

По мере того, как подавляющая масса мировых информационных потоков смещается от человека к машине, а алгоритмы совершенствуются во взломе нашего интеллектуального пространства, возникает очевидный вопрос. Откуда в массиве человеческих действий берет начало какая-либо причинно-следственная цепочка событий? Насколько значимо само понятие «человеческие намерения» в таком мире? Можно притвориться, что хотя бы программисты-люди и их намерения все еще стоят за всем этим, но в эпоху, когда алгоритмы заведомо обрабатывают информацию и варианты для каждого, разве это не просто разграничение без разницы?

Короче говоря, если в следующем веке пришельцы будут исследовать наш мир и смогут «следить за рукой», – то есть за потоком информации – они вполне могут решить, что смотрят на мир, доминирующим видом которого являются машинные алгоритмы. Будут ли они уделять большое внимание двуногим углеродным существам, обслуживающим их, – это еще один вопрос. В конце концов, любой пришелец, приезжающий сюда, вполне может и сам быть машиной своего алгоритмоцена.

Стоит отметить, что для любых геологов будущего наш алгоритмоцен должен оставить четкий сигнал в ископаемом летоисчислении. В мире уже существует больше IoT-устройств, чем людей, и их количество будет стремительно расти в ближайшие десятилетия. Учитывая, что в мире ежегодно производится 50 миллионов тонн электронных отходов, в ископаемом материале, возможно, уже есть так называемый «золотой колосс»: район Агбогблоши на окраине города Аккра, Гана. Говорят, что в Агбогблоши находится крупнейшая в мире свалка электронных отходов, получившая прозвище Содом за постоянные пожары на мусорных свалках. Как описал ее режиссер Флориан Вайгсамер в интервью радио CBC в 2018 году: «Когда вы впервые приезжаете туда, это выглядит, будто апокалипсис уже случился… это выглядит как точка, где все заканчивается…».

Эпилог: на что может быть похож алгоритмоцен?

В течение следующих нескольких десятилетий трудно представить будущее, не деградирующее во всё более ужасные версии настоящего. Многое в мире движется в худшую сторону, и какие-либо изменения в политике уже не способны на это повлиять. Но в более отдалённой перспективе есть три возможных сценария, которые кажутся достаточно вероятными, чтобы кратко описать их, пользуясь известными научно-фантастическими отсылками.

• Утопический сценарий означает, что мы каким-то образом избегаем катастрофы с климатом и экосистемами планеты. Это означает всепланетный инженерный проект. К сожалению, наша нынешняя система, основанная на конкуренции национальных государств и капитализме, не имеет ни политической, ни бизнес-модели управления целой планетой. Поэтому, наверное, понадобилась бы мировая система управления сродни «Стар-Треку». (Здесь, наверное, стоит вспомнить, что «Стар-Трек» никогда прямо не упоминает демократию, но так тому и быть). В любом случае, управление такой астрономически сложной системой означает, что оперативный контроль утопии будет осуществляться через автономные системы искусственного интеллекта. О том, что произойдет с человеческими умами и обществами при таком сценарии, можно только догадываться. Возможно, будет достигнута настоящая утопия с миром, процветанием, реализацией человеческого потенциала и всем таким. Но опять же, этот сценарий, несомненно, является наименее реалистичным.
• Средний сценарий – версия Mad Max на микросхемах: негостеприимная, наводнённая конфликтами планета анархии и технологий. Основной движущей силой этого сценария, на мой взгляд, является прямолинейность и определенность: уверенность в том, что скоро появятся автономные оружейные системы на ИИ. И они будут повсеместными. Миру повезло, что стандартные ОМП (ядерные, химические и биологические) могут быть ограничены материалами и массивной инфраструктурой, которые нужны для их производства. Договоры здесь в некоторой степени возможны. Будущее интеллектуальное оружие может быть собрано с использованием готовых компонентов в пресловутой гаражной лаборатории. И ни одна военная или парамилитари сила в мире не может позволить себе оказаться на неправильной стороне этой кривой развития. Поскольку этот сценарий требует лишь небольшого количества людей, сохраняющих то же самое поведение, что и на протяжении всей истории. Это, несомненно, самый реалистичный сценарий.
• Сценарий финального кошмара, о котором я лично беспокоюсь больше, чем об убийственном Терминаторе, – это еще один мем начала 1990-х: апокалипсис «серой слизи». Наноботы с роевым интеллектом, проедающие себе путь сквозь мир, – это звучит непривычно в 2020 году. И, наверняка, технически это все еще на некотором расстоянии. С одной стороны, роевой интеллект гораздо дешевле и проще реализовать, чем разум в привычном понимании. Природа сделала человеческий мозг всего один раз, но роевой интеллект на этой планете был на протяжении многих веков. С другой стороны, наноразмерные компоненты, такие как исполнительные механизмы и контроллеры, все еще достаточно сложны. Возможно, нам всем следует надеяться, что они останутся сложными. Иначе нашему виду всё же под силу стереть фанерозойский эон последних 540 миллионов лет. Технически тогда подходящим названием для следующего эона будет алгоритмозой.

Примечания:

[1] Чтобы развеять любые иллюзии о том, что мир способен эффективно решать проблемы, связанные с изменением климата, смотрите сайт NOAA по мониторингу углекислого газа в атмосфере. В последнем докладе ООН по возобновляемым источникам энергии 2020 года говорится, что текущие глобальные инициативы по сокращению выбросов углерода «…намного отстают от тех, которые потребуются для ограничения роста мировой температуры менее чем на 2 градуса Цельсия».

[2] Конечно, они не являются ни независимыми, ни случайными. Но даже если оценка отклоняется на порядок, это впечатляющее совпадение.

[3] Термин «антропоцен» был широко популяризирован в начале этого столетия Полом Крутценом и другими учеными. Однако Международный комитет по стратиграфии – чрезвычайно бюрократизированный орган. Он намерен официально рассмотреть вопрос о принятии этого термина в 2021 году.