Как ИИ сводит вас с ума

Оригинальный материал написал Чарли Варзел для The Atlantic. Перевод подготовил Егор М. специально для Local Crew.

Понедельник, август, и я смотрю на Substack интервью бывшей ведущей кабельных новостей с погибшим подростком. Этот погибший подросток — Хоакин Оливер, убитый во время массовой стрельбы в средней школе Марджори Стоунман Дуглас в Паркленде, штат Флорида, — был оживлен генеративным искусственным интеллектом. Его голос и диалоги смоделированы на основе фрагментов его собственных записей и домашних видео. Анимация неестественная, темп речи модели слишком быстрый, а дважды, когда она пытается передать волнение, её тон резко повышается, превращаясь в цифровой визг. Интересно, сколько людей должны были согласиться с тем, что это была хорошая идея, чтобы довести положение дел до такого состояния? Мне кажется, я схожу с ума, глядя на это все.

Джим Акоста, бывший ведущий CNN, проводящий интервью, похоже, полностью разделяет эту идею, что только усиливает сюрреалистичность ситуации: он ведет себя серьезно, несмотря на всю странность происходящего. Акоста задает простые вопросы об интересах Оливера и о том, как погиб подросток. Чат-бот, созданный при полном сотрудничестве родителей Оливера в поддержку контроля над оружием, отвечает как пресс-релиз: «Нам нужно создавать безопасные пространства для разговоров и общения, чтобы каждый чувствовал себя замеченным». Он предлагает банальные фразы вроде «Больше доброты и понимания действительно могут изменить ситуацию».

В прямом эфире я наблюдаю, как зрители, подобно мне, пытаются осмыслить увиденное. «Не знаю, что я чувствую по этому поводу», — пишет один. «Боже мой, это так странно», — говорит другой. Ещё один думает о семье, написав: «Должно быть, это так тяжело». Кто-то говорит то, что, как мне кажется, думаем мы все: «Он должен быть здесь».

Интервью с Акостой было сложно осмыслить, как и многое другое в эпоху искусственного интеллекта. Меня отвратило то, что Акоста «превратил убитого ребенка в контент», как выразился критик Паркер Моллой, и возмутило то, что технологические компании теперь предлагают «обезьянью лапу» в виде продуктов, способных оживлять мертвых. Меня встревожило, когда отец Оливера сказал Акосте во время их последующей беседы, что у Оливера «начнут появляться подписчики», намекая на эпоху убитых детей в качестве инфлюенсеров. В то же время я понимал стремление родителей Оливера, все еще переживающих глубокое горе, сделать все возможное, чтобы сохранить память о сыне и придать смысл бессмысленному насилию. Как я мог судить о потере, которая заставляет мать Оливера часами разговаривать с чат-ботом, как описал его отец Акосте, — что я мог сделать с осознанием того, что ей нравится слышать, как чат-бот говорит «Я люблю тебя, мама» голосом ее умершего сына?

Интервью вызвало чувство, которое стало до боли знакомым за последние три года. Это чувство подавленности, вызванное стремлением общества к будущему, которое кажется бескровным, поспешно задуманным и смиренно принятым. Неужели мы действительно это делаем? Кто вообще решил, что это хорошая идея? В этом смысле интервью с Акостой — всего лишь продукт того, что кажется коллективным помешательством. Эта странная смесь шока и двойственности, как я понял, является определяющей эмоцией эры генеративного ИИ. Спустя три года ажиотажа, кажется, одно из устойчивых культурных последствий ИИ — это ощущение, что люди сходят с ума.

Во время интервью с Акостой отец Оливера отметил, что у семьи есть планы продолжить разработку бота. «Любой другой технолог из Силиконовой долины скажет: „Это только начало ИИ“, — сказал он. — „Это только начало того, что мы делаем“».

Только начало. Возможно, вы тоже это слышали. «Добро пожаловать в поколение ChatGPT». «Революция генеративного ИИ». «Новая эра для человечества», как недавно выразился Марк Цукерберг. Это момент перед вычислительным Большим взрывом — нам говорят, что все вот-вот изменится; вы увидите. Бог вполне может быть в машине. Силиконовая долина изобрела новый тип мышления. Это момент для радости — для того, чтобы удвоить усилия. Вы глупец, если не используете это на работе. Пришло время ускориться.

Как же нам повезло жить сейчас! Да, всё странно. Но чего вы ожидали? Вы плаваете в первобытном супе машинного познания. Неизбежны трудности роста и сопутствующий ущерб. Жить в такие интересные времена означает бороться с МехаГитлером Гроком и пить из пожарного шланга фашистско-пропагандистской жижи. Это означает, что дедушка будет оставлять недоуменные комментарии в Facebook под отрисованными изображениями Креветочного Иисуса или, что ещё хуже, влюбляться в кокетливого чат-бота с искусственным интеллектом. Это будущее, вероятно, потребует нового общественного договора. Но также: порнография с элементами мести от ИИ и приложения для «обнажения», использующие ИИ для раздевания женщин и детей, и большие языковые модели, поглотившие весь творческий потенциал человечества. Из этого болота, как нам говорят, в конечном итоге возникнет «сильный искусственный интеллект», который ускорит развитие человеческой расы или, может быть, уничтожит её. Но посмотрите: у каждого болвана с тарифом T-Mobile скоро будет в кармане больше необработанного интеллекта, чем когда-либо существовало в мире. Продолжайте верить.

Недостаток воздуха — вот основной принцип работы тех, кто разрабатывает эту технологию. Венчурный капиталист Марк Андрессен цитирует твиты парней на X, которые выдают заявления вроде: «Все мои знакомые считают, что у нас есть максимум несколько лет, пока стоимость труда полностью не рухнет, а капитал не начнет накапливаться у владельцев по замкнутому кругу — по сути, худший кошмар/фантазия Маркса». Как можно не сойти с ума, если воспринимать их всерьез? Действительно, похоже, что одной из многих вещей, что может предложить генеративный ИИ, является своего рода психоз как услуга. Если вы действительно «накачались ИИ» — так называют тех, кто верит, что машинный сверхинтеллект скоро появится, — рациональный ответ, вероятно, включает в себя сочетание строительства бункера, увольнения с работы и присоединения к этому движению. Как написал мой коллега Маттео Вонг после общения с людьми из этой группы в начале этого года, политика, экономика и текущие события по сути не имеют отношения к истинным верующим. Трудно переживать из-за тарифов, авторитарного вмешательства или необходимости получения высшего образования, если вы верите, что мир, каким мы его знаем, вот-вот изменится навсегда.

Эта риторика имеет разрушительные последствия. Люди были принудительно госпитализированы или пережили бредовые срывы после установления отношений с чат-ботами. Эти истории сами по себе превратились в целую индустрию, каждая из которых предполагает, что сочетание подобострастных моделей, их представления ложной информации как правдивой и способности инструментов имитировать человеческий разговор заставляет уязвимых пользователей думать, что они установили человеческие отношения с машиной. Сабреддиты, такие как r/MyBoyfriendIsAI, где люди описывают свои отношения с чат-ботами, могут не отражать мнение большинства пользователей, но трудно, просматривая отзывы, не почувствовать, что всего через несколько лет после начала эры генеративного ИИ эти инструменты оказывают сильное влияние на людей, которые могут не понимать, с чем именно они взаимодействуют.

В то время как всё это происходит, молодые люди переживают феномен, который писательница Кайла Сканлон называет «концом предсказуемого прогресса». В общих чертах, теория утверждает, что обычные пути к стабильному экономическому существованию больше не являются надежными. «Вы думаете: эти рабочие места, на которые я полагаюсь, чтобы подняться на самую нижнюю ступеньку своей карьерной лестницы, будут у меня отняты» — сказала она недавно журналисту Эзре Кляйну. «Я думаю, это порождает элемент страха». Описываемое ею чувство нестабильности является отличительной чертой эры генеративного ИИ. Пока совершенно неясно, сколько рабочих мест начального уровня будет занято ИИ, но заявления восторженных генеральных директоров и корпораций, безусловно, звучат мрачно. В мае Дарио Амодей, генеральный директор Anthropic, предупредил, что ИИ может уничтожить половину всех рабочих мест начального уровня в офисной сфере. В июне генеральный директор Salesforce Марк Бениофф предположил, что до 50 процентов работы компании выполняется ИИ.

Тревога по поводу потери работы иллюстрирует неопределенность нынешней ситуации. Сейчас существуют конкурирующие теории относительно того, оказывает ли ИИ существенное влияние на занятость. Но реальное и предполагаемое влияние — это разные вещи. Недавний опрос Quinnipiac показал, что «когда дело касается их повседневной жизни», 44 процента опрошенных американцев считают, что ИИ принесет больше вреда, чем пользы. Опрос показал, что американцы считают, что эта технология приведет к потере рабочих мест, но многие работники, похоже, уверены в стабильности своих собственных рабочих мест. Многие люди просто не знают, какие выводы можно сделать об ИИ, но невозможно не думать об этом.

Генеральный директор OpenAI Сэм Альтман продемонстрировал собственную неуверенность. В своем блоге под названием «Мягкая сингулярность», опубликованном в июне, Альтман утверждал, что «мы прошли горизонт событий» и близки к созданию цифрового сверхинтеллекта, и что «в каком-то смысле ChatGPT уже могущественнее любого человека, когда-либо жившего на Земле». Он использовал классические риторические приемы сторонников ИИ, утверждая, что «2030-е годы, вероятно, будут кардинально отличаться от всего, что было раньше». И все же этот пост немного отступает от драматической риторики неизбежной «революции», которую он использовал ранее. «В самых важных аспектах 2030-е годы могут не быть кардинально другими», — написал он. «Люди по-прежнему будут любить свои семьи, проявлять творчество, играть в игры и купаться в озерах» — игривый намек на выносливость нашей физической формы, как небольшой приятный сюрприз. Альтман — опытный маркетолог, и этот пост, возможно, просто способ намекнуть на более дружелюбное и приемлемое будущее для тех, кто немного напуган.

Однако, другой способ прочтения этого поста — это увидеть в словах Альтмана некоторую осторожность перед лицом потенциальных ограничений прогресса в разработке технологии. Ранее в этом месяце OpenAI выпустила GPT-5, получивший неоднозначные отзывы. Альтман обещал интеллект «уровня доктора наук» по любой теме. Но первые тесты GPT-5 выявили множество примеров небрежных ответов на запросы, включая галлюцинации, ошибки в простых арифметических вычислениях и сбои в базовом логическом мышлении. Некоторые опытные пользователи, которые были очарованы предыдущими версиями программного обеспечения, были разгневаны и даже разочарованы обновлением. Альтман сделал особый акцент на удобстве использования и дизайне продукта: в сочетании с «мягкой сингулярностью» GPT-5 кажется признанием того, что сверхинтеллект пока остается лишь концепцией.

И всё же, философская ролевая игра продолжается. Незадолго до запуска Альтман появился на популярном подкасте комика Тео Вона. Дискуссия перешла в область вдумчивой научной фантастики, к которой Альтман обычно тяготеет. В какой-то момент между ними произошёл следующий диалог:

Что именно должен думать человек, слушающий подобные разговоры в машине по дороге в продуктовый магазин? Наверняка найдётся группа людей, которых очень привлекает перспектива покрыть Землю или атмосферу центрами обработки данных. Но что насчёт тех, кому это неинтересно? Альтман и другие менее известные личности в сфере ИИ часто говорят именно так, делая радикальные, бесстрастные заявления о будущем и звуча как дети, играющие в стратегическую игру. Это не бизнес-план; это праздная мечта.

Столь же дезориентирует тот факт, что эти видения и рассуждения приводят к изменениям в реальном мире. Даже если вы лично не верите в эту шумиху, вы живете в экономике, которая переориентировалась на искусственный интеллект. В недавнем отчете The Wall Street Journal подсчитано, что расходы крупных технологических компаний на ИТ-инфраструктуру в 2025 году «действуют как своего рода программа стимулирования частного сектора», при этом «Великолепная семерка» технологических компаний — Meta, Alphabet, Microsoft, Amazon, Apple, Nvidia и Tesla — потратила более 100 миллиардов долларов на капитальные вложения за последние месяцы. Обратной стороной таких консолидированных инвестиций в один технологический сектор является огромная экономическая уязвимость, которая может привести к финансовому кризису.

В двух словах, это и есть эра искусственного интеллекта. Если присмотреться, то можно представить его как спасение мировой экономики. Но если присмотреться внимательнее, то это окажется бомбой замедленного действия, заложенной в глобальной финансовой системе. Дискуссии по этому поводу всегда поляризованы. Продолжайте верить.

Трудно отрицать, что инструменты генеративного ИИ оказывают преобразующее воздействие, поскольку их внедрение радикально изменило экономику и цифровой мир. Социальные сети и интернет в целом наводнены мусором, созданным ИИ, и синтетическим текстом. Spotify и YouTube заполняются песнями и видео, сгенерированными ИИ, некоторые из которых набирают миллионы прослушиваний.

Боты повсюду, и они оказали глубоко странное и значимое влияние на цифровую жизнь. Иногда они проявляют расизм. Многие из них — подхалимы. В других случаях они призывают демонов. ИИ-пересказы в поиске Google резко снижают трафик и перестраивают веб. В школах ChatGPT не просто убил ученические сочинения; похоже, он угрожает некоторым основным кирпичам, из которых строится человеческое познание. Некоторые исследования утверждают, что чат-боты унифицируют способ общения людей. В любом случае, они, похоже, перевернули представление об интернете как о бесконечном архиве информации, в котором каждый может самостоятельно искать информацию. «Разберись в этом сам» быстро превратилось в «Получи один каноничный ответ».

Иногда это полезно: бот искусно резюмирует сложный PDF-файл. По общему мнению, это действительно полезные инструменты для программирования. Дети используют их для создания полезных учебных пособий. Они хорошо экономят ваше время, генерируя нудные электронные письма. Кстати, медицинский чат-бот выдумал вымышленные части тела. FDA представило инструмент генеративного ИИ для ускорения утверждения лекарств и медицинских устройств, но этот инструмент постоянно выдумывает фальшивые исследования. Ежедневное отслеживание заголовков об ИИ — это попытка определить цену, которую общество платит за эти мнимые преимущества в плане повышения производительности. Например, с новыми умными часами Google Gemini вы можете попросить бота «сказать моей супруге, что я опоздал на 15 минут, и отправить это в шутливом тоне», вместо того чтобы общаться самостоятельно. За этим следует новость об исследовании, предполагающем, что активные пользователи ChatGPT могут накапливать «когнитивный долг» от использования этого инструмента.

В последние месяцы я чувствую себя потерянным из-за всего этого: из-за технологии, которую я считаю полезной в определенных контекстах, но которая воспринимается как портал к разумности; из-за миллиардера, уверенно заявляющего, что он близок к прорывам в физике, общаясь с чат-ботом; из-за культуры «заработай деньги», которая, кажется, приняла эти инструменты, не особо задумываясь о последствиях; из-за дискуссий. Я слышу эти разговоры повсюду — парень, продающий продукты на фермерском рынке, вяло шутит, что ИИ не может выращивать чернику; женщина в аэропорту говорит своей подруге, что она попросила ChatGPT порекомендовать макияж. Большинство этих разговоров ведутся людьми, которые годами подвергались бомбардировке рекламой, но которые также наблюдали, как некоторые из этих инструментов прочно вошли в их жизнь или жизнь их знакомых. Они не совсем воодушевлены или разочарованы, но почти все из них, кажется, смирились с тем, что будут иметь дело с этими инструментами как с частью своего будущего. Помните — это только начало… верно?

Это язык, который нам дали создатели и сторонники этой технологии, а это значит, что дискуссии о будущем этой технологии ведутся на их условиях. Это ошибка, и, возможно, именно поэтому многие чувствуют себя потерянными. В последнее время меня занимает другой вопрос: что, если генеративный ИИ — это не Бог в машине или пустая фантазия? Что, если он просто достаточно хорош, полезен многим, но не революционен? Сейчас модели не думают — они предсказывают и упорядочивают языковые символы, чтобы давать правдоподобные ответы на запросы. Нет убедительных доказательств того, что они будут развиваться без какого-либо квантового скачка в исследованиях. Что, если они никогда не перестанут галлюцинировать и никогда не разовьют ту творческую изобретательность, которая питает настоящий человеческий интеллект?

То, что модели достаточно хороши, не означает, что отрасль рухнет в одночасье или что технология бесполезна (хотя это вполне возможно). Технология всё ещё может отлично справляться с задачей сделать нашу систему образования неактуальной, оставив после себя поколение, полагающееся на ответы чат-бота вместо того, чтобы думать самостоятельно, и без обещанного превосходства разумного бота, который изобретет лекарства от рака.

«Достаточно хорошо» не даёт мне спать по ночам. Потому что «достаточно хорошо» скорее всего означало бы, что недостаточно людей поймут, что на самом деле создаётся — и чем жертвуют — пока не станет слишком поздно. Что если настоящий катастрофический сценарий заключается в том, что мы загрязним интернет и планету, переориентируем нашу экономику и используем собственные ресурсы, передадим на аутсорсинг значительную часть наших интеллектуальных ресурсов, изменим нашу геополитику и культуру и будем бесконечно бороться за технологию, которая никогда не приблизится к выполнению своих самых грандиозных обещаний? Что если мы потратим так много времени на ожидание и споры, что не сможем направить свою энергию на решение проблем, существующих здесь и сейчас? Это была бы трагедия — продукт массового помешательства. Больше всего в этом сценарии меня пугает то, что он единственный, который не кажется таким уж безумным.