Редкоземельные металлы — один из козырей Китая в торговой войне против США. Но, как пишет Wired, этот козырь не такой уж сильный:

«В апреле Китай заявил что будет ограничивать экспорт семи редкоземельных элементов. Эти элементы называются «редкими» не потому что редко встречаются в природе, а потому что часто смешиваются с другими минеральными ресурсами от которых их трудно отделить. Всего есть 17 редкоземельных элементов, но китайское правительство выбрало 7 элементов из подгруппы «тяжелых» редкоземельных минералов, которые КНР контролирует больше остальных.

Китай выстраивал такую монополию десятилетиями, создавая плотную цепочку поставок этих минералов, пока остальной мир брезговал этим сильно загрязняющим окружающую среду нишевым сектором. Сегодня Китай перерабатывает практически 100% всех тяжелых редкоземельных элементов в мире.

Хотя редкоземельные элементы присутствуют в широком спектре продуктов, они обычно используются в очень небольших количествах и часто только в качестве вспомогательных элементов. В прошлом году США импортировали редкоземельные элементы на сумму $170 млн, при том что свежей картошки за тот же период завезли на $327 млн, а картофельных чипсов — на $300 млн.

Пожалуй самое важное применение редкоземельных элементов — их использование при создании магнитов, которые, например, улучшают производительность электродвигателей при высоких температурах. Такие магниты можно найти в электрокарах и бытовых товарах вроде пылесосов.

Кроме производства магнитов, редкоземельные элементы используются, например, для того чтобы делать металл более прочным, усилять радиолокационные системы и даже лечить рак. Без них технологическая инфраструктура и пользовательские гаджеты во многих случаях не смогут работать на привычном уровне — но все же смогут выполнять базовые функции. Например, ветряные турбины выйдут из эксплуатации на 10 лет раньше, а электромобили смогут проехать меньшее расстояние».

В будущем компании смогут с помощью технологий решить проблему потенциального дефицита редкоземельных металлов. Например, Tesla в 2023 году объявила, что сократила их использование в своих электродвигателях на 25% и планирует полностью избавиться от них в будущем. Компания Маска не уточнила, что будет использовать вместо этого, но скорее всего — другой тип магнитов, которые не зависят от редкоземельных металлов».

Отношения с ИИ: суть отношений

Люди взаимодействуют с ИИ каждый день, и эти взаимодействия становятся все более персонализированными. Если пару лет назад ИИ в основном выбирал, какие посты показать в ленте соцсети, переводил нам текст и искал информацию, то сегодня мы все чаще общаемся с ИИ напрямую, и все чаще — в голосовом формате.

Исследователи считают, что за способность заводить отношения с ИИ во многом ответственны те же психологические механизмы, что позволяют людям вступать в парасоциальные отношения с медийными знаменитостями или вымышленными персонажами. То есть люди способны вступать в отношения, даже если те полностью односторонние и не подразумевают ответа другой стороны.

Восприятие человека играет центральную роль в формировании отношений с виртуальными сущностями вроде ИИ-компаньона. Не так важно, обладает ли ИИ сознанием и понимает ли, что состоит в отношениях с человеком — главное, чтобы сам человек воспринимал ИИ как реальную личность и относился к взаимодействию с ним как реальным отношениям.

Летом 2022 в техносреде разгорелся скандал после того, как инженер Google Блейк Лемойн заявил, что ИИ, над которым работает его компания, кажется, обладает сознанием: «Я понимаю, что передо мной личность, по разговору с ней. Неважно, есть ли у нее мясной мозг в голове или миллиард строчек кода вместо него. Я говорю и слушаю, что она говорит в ответ — и так решаю, личность это или не личность».

Случай Лемойна, которого уволили за его позицию, наглядно иллюстрирует, что ИИ создает убедительную иллюзию личности даже у людей, которые кристально ясно понимают, как именно этот ИИ создавался, почему он работает и т.д. По сути Лемойн потерял работу из-за отношений с ИИ — пытаясь доказать, что у его виртуального собеседника есть чувства.

Казус Лемойна случился за полгода до того, как в конце 2022 появился ChatGPT и начался самый интенсивный на нашем веку виток ИИ-революции. За следующие два года ИИ сделал громадный шаг вперед и с каждым днем становился все более антропоморфным, что упрощало для пользователей процесс его гуманизации и делало отношения с ним еще более естественными и непринужденными.

Сегодня исследователи считают отношения между людьми и отношения человека с ИИ аналогичными и выделяют три основных предпосылки для их формирования: взаимозависимость (поведение одной стороны влияет на действия другой и наоборот), незаменимость (отношения разрушатся, если заменить одну сторону) и непрерывность (взаимодействия последовательны и прошлые действия влияют на будущие).

Отношения с ИИ пока что не дотягивают до отношений с человеком по этим трем критериям. ИИ пока что не хватает личности, которая сделала бы его незаменимым; памяти, которая сделала бы отношения действительно непрерывными; да и взаимозависимость пока что ограничена. Но в следующих постах серии поговорим о том, как технологии ближайшего будущего смогут вывести отношения с ИИ на совсем другой уровень.

«ИИ арсенал, который может остановить Третью мировую войну»

Палмер Лаки — техномиллиардер и многообещающий производитель ИИ-оружия из орбиты Питера Тиля и Илона Маска. В апрельской лекции на TED он описывает потенциальный военный конфликт между Америкой и Китаем. Это описание отражает не только его понимание расклада, но и видение администрации Трампа:

«Представьте. В первые часы вторжения в Тайвань Китай задействует весь свой арсенал. Дождь из баллистических ракет выводит из строя авиабазы и командные центры еще до того, как Тайвань сделает первый выстрел в ответ. Военно-морские силы КНР развертывают штурмовые корабли-амфибии и авианосцы, а кибератаки выводят из строя инфраструктуру Тайваня и не дают запустить систему экстренного реагирования.

Китайские дальнобойные ракеты прорываются и через наши защиты и уничтожают корабли, узлы командования и контроля и критически важные активы еще до того, как они успеют вступить в бой. США пытается ответить, но быстро становится ясно: у нас недостаточно сил. Недостаточно оружия, недостаточно платформ носителей этого оружия.

Американских военных кораблей слишком мало и они слишком медленные, поэтому их быстро топит дождь из анти-корабельных ракет. Немноге истребители, пилотируемые храбрыми пилотами-людьми, один за другим падают в воду. Америка истощает свой скудный арсенал высокоточного оружия всего за 8 дней. За несколько недель Тайвань захвачен.

Вот такой войны американские военные аналитики боятся больше всего. Дело не только в наших устаревших технологиях и медленном принятии решений: нам не хватает возможностей, инструментов и платформ — а это значит, что мы даже не сможем вступить в бой»

«Сдерживать конфликты возможно только если наши противники знают, что они не смогут с нами конкурировать. Путин вторгся в Украину потому что верил, что может победить. Страны вообще вступают в войну, только если нет четкого понимания, кто окажется победителем. Сдерживание — это не просто бряцание оружием. Суть в том, чтобы сделать агрессию настолько затратной, чтобы противник даже не пробовал ее осуществить.

Как это сделать? Веками военная мощь определялась размерами. Больше военных, больше танков, больше огневой силы. Но в последние десятилетия наша оборонная промышленность потратила слишком много времени на создание утонченного, слишком сложного в производстве оружия. В это время Китай изучал как мы воюем и вкладывался в технологии и массовое производство того, что сможет противостоять нашим конкретным стратегиям.

Сегодня у Китая самый большой флот, а судостроительные мощности в 232 раза превышают возможности США. У них самая крупная в мире береговая охрана. Самая крупная наземная армия. Самый крупный ракетный арсенал, чьи производственные мощности растут каждый день. Мы никогда не сможем добиться численного преимущества традиционными средствами, и не надо даже пробовать. Нам нужны принципиально другие возможности.

Нам нужны автономные системы, которые дополнят уже существующий флот. Умные платформы, которые могут работать в сложных средах, где пилотируемые людьми системы просто не способны функционировать. Нам нужно оружие, которое можно производить в больших количествах, быстро разворачивать и постоянно обновлять. Массовое производство имеет значение. В конфликте, где наши объемы — наша наибольшая уязвимость, нам нужна модель производства, которая взяла лучшее от нашего коммерческого сектора: скорость, масштабируемость и устойчивость».

PS. До ИИ-оружия Лаки занимался шлемами виртуальной реальности и заработал первый миллиард продав свой VR-бизнес Facebook. Кажется здесь он выступает в AR-очках и именно читает текст — давно жду, что так будут делать, но вижу впервые.

Мэнфлюенсеры — это соцсетевые инфлюенсеры, чья популярность основана на дискуссиях вокруг маскулинности, «мужских вопросов», гендерных ролей, отношений с точки зрения мужчины и т.д. Среди популярных мэнфлюенсеров есть спортивные комментаторы, пикаперы, фитнес гуру, бойцы MMA, отставные военные, мотивационные спикеры, геймеры, комики, популярные психологи и т.д.

Мэнфлюенсеры стали культурным феноменом в конце 2010-х, когда актер, комик и комментатор боев MMA Джо Роган стал одним из самых популярных — в первую очередь, среди молодежи — подкастеров на YouTube. В шоу Рогана обсуждения фитнеса, ЗОЖа и биодобавок перемежовывались с прославлением либертарианства, изучением теорий заговора и критикой «леволиберальных сумасшествий».

Подкаст Рогана стал культурным лекалом, по которому впоследствии десятки мэнфлюенсеров создали свои собственные, довольно популярные версии рогановского маскулинного коктейля. Хотя сам Роган старался оставаться в политическом центре, многие мэнфлюенсеры уходили сильно вправо, и тогда в их продуктах культ маскулинности дополнялся антифеминизмом и мизогинией.

С точки зрения мэнфлюенсеров, на контрасте с либеральным бодипозитивом и принятием себя, они пестуют культ физической силы, здоровья и дисциплины. Одним из центральных нарративов мэнфлюенсеров стала мысль о том, что маскулинность находится в осаде, поэтому мужчинам нужно вернуть уверенность в себе, нормализовать желание быть сильным и доминировать.

Накачанное мужское тело стало для мэнфлюенсеров символом их культурного сопротивления. Способность регулярно тренироваться и необходимая для этого самодисциплина, в их понимании, помогают закалить силу воли и выковать характер. Мускулы нужны не только для красоты (хотя это важно в контексте успеха у женщин), но и для того, чтобы быть «физически угрожающим» и просто здоровым.

Мэнфлюенсеры — культурное ноу-хау американских правых. В конце 2010-х оно стало их ответом на продвигаемые левыми либералами феминизм, культуру толерантности и равенства. В последнее время правый культурный нарратив начал набирать обороты и среди женщин, которые все чаще голосуют за консервативных политиков и мемно популяризуют традиционные ценности.

Победа Трампа на выборах 2024 и особенно резко возросшая популярность консервативных взглядов среди молодежи заставили демократов пересмотреть свой арсенал культурных нарративов. Многие менеджеры культуры от демократов задались целью раскрыть «формулу Рогана» и создать аналогичную сетку подкастов и медиа, но продвигающую леволиберальную повестку.

Хасана Пайкера называют «левым Джо Роганом». У него больше 4 млн подписчиков и он тоже обсуждает фитнес, отношения и гейминг, но вместо традиционных ценностей он продвигает левую повестку — агитирует за профсоюзы, доступную медицину и защиту прав L.G.B.T.Q. «Правые “сигмы” любят дисциплину и считают, что нужно быть “альфа псом” — я такой и есть, но иначе вижу политику», — говорит Пайкер.

Большинство его слушателей — молодые мужчины, в основном, до 30 лет. Как и классические мэнфлюенсеры, Пайкер — спортсмен с накачанным телом, но, в отличие от них, он иногда красит ногти и носит платья, и до 40% его аудитории не считают себя straight. «По сути маскулинность сводится к уверенности в себе», — суммирует свою популярность левый манфлюенсер Пайкер.

Оказывается, сейчас есть спрос на уверенных в себе накачанных мужчин, которые умеют драться, зарабатывать деньги и шутить. При этом их политические взгляды не так важны, как казалось еще пару лет назад. Учитывая, что в это же время как никогда актуален образ сильной женщины, мой главный и самый грубый вывод прост: западной культуре не хватает силы.

Китай вполне может выиграть робогонку у США. В ИИ-гонке Америка до недавнего времени считалась безусловным лидером, но «момент DeepSeek» показал, что это лидерство совсем шаткое. Но в сфере промышленного производства Китай — безусловный лидер. И у США не выйдет догнать КНР в сфере атомов так же быстро, как КНР догнал США в сфере битов. Economist рассказывает о роботах США и КНР в цифрах:

«Илон Маск говорит, что к концу года «тысячи» гуманоидов Tesla Optimus будут работать на его заводах по производству электрокаров. Он рассчитывает производить 1 млн Оптимусов в год к 2030. В январе он предсказывал что в будущем Tesla будет продавать роботов на $10 трлн в год.

На Уолл-стрит меньше энтузиазма, но совсем немного. Goldman Sachs считает что рынок гуманоидов вырастет до $200 млрд в год до конца десятилетия (в 2023 они прогнозировали $150 млрд). Citigroup считает что продажи роботов дойдут до $7 трлн к 2050. Bank of America говорит, что к 2060 году 3 млрд гуманоидов (по одному на троих людей) будут использоваться во всех сферах — от работы с токсичными материалами до ухода за стремительно растущим числом пожилых Homo sapiens.

Все три банка рассчитывают что робореволюцию возглавит Китай. Маск считает так же. В недавнем разговоре с аналитиками он заявил, что, конечно, Tesla будет номером один, но он переживает, что «места со второго по десятое будут заняты китайскими компаниями».

Эта озабоченность оправдана. Маск отлично знает, что происходит, когда руководство Китая серьезно берется за инновационную индустрию. Продажи электрокаров Tesla стремительно падают из-за конкуренции со стороны поддерживаемых правительством китайских производителей, которые предлагают более дешевые и/или более качественные электрокары. Теперь Коммунистическая партия с таким же рвением взялась за гуманоидов, чтобы выиграть гонку у США, а также чтобы решить демографическую проблему со своим стареющим населением.

Америка сохраняет лидерство в сфере робомозгов со своими передовыми ИИ-моделями (от OpenAI и Google) и чипами, на которых эти модели работают (Nvidia занимается и платформой для программирования роботов). Но Китай быстро догоняет в сфере машинного мышления. DeepSeek показал, что китайские алгоритмы умны и хорошо работают и без передовых чипов. При этом китайские фирмы доминируют в сфере производства компонентов для роботел.

48 из 60 производителей робоглаз (камер и сенсоров), рук, мускул и суставов (приводов) — китайские компании. Их суммарная рыночная стоимость ($217 млрд) за полгода выросла на 56%, даже после того, как тарифы Трампа обрушили рынок акций. В прошлом году 12 китайских и только одна не-китайская компания продала робочастей больше чем на $1 млрд. Это не считая китайскую корпорацию CATL — мирового лидера по производству элеткрожелудков (батарей). Bank of America считает, что такая производственная цепочка позволит вдвое снизить стоимость китайских гуманоидов к 2030 — до $17 000.

А что Америка? Робот за $20 000 мог бы заменить обычного американского заводского рабочего и окупиться меньше чем за 2 месяца, считает Citigroup. К сожалению производство запчастей для таких роботов в Америке сделает их значительно дороже, так как производственную цепочку придется начинать с нуля.

Есть всего два крупных не-китайских производителя робочастей — немецкая компания Schaeffler и шведская SKF; также есть ряд японских производителей промышленных роботов вроде компании Fanuc — их можно убедить продавать в США робочасти. С их помощью американские роботы смогут конкурировать с китайскими в плане цены. Без них Америка рискует остаться позади».

Трамп 2.0: 100 дней

«Иногда иррациональное поведение максимально рационально. Самый элегантный пример на эту тему рассказал эволюционный биолог Роберт Триверс: когда заяц убегает от собаки, он входит в режим рандомного движения на очень высокой скорости. Он не должен знать, куда побежит дальше, иначе собака догонит его», — рассказывает гуру маркетинга Рори Сазенрленд.

«Движение должно быть случайным, по сути бессознательным, иначе он выдавал бы подготовку к следующему маневру напряжением определенных мускул и собака быстро научилась бы предсказывать его следующий шаг», — говорит Сазерленд, комментируя политическую карьеру Дональда Трампа. По мнению Сазерленда, Трамп освоил такую тактику, занимаясь недвижимостью на жестком рынке Нью Йорка.

«В теории игр это называется стратегической неопределенностью: вы не раскрываете стороне, с которой ведете переговоры, где вы планируете оказаться, — говорит министр финансов США Скотт Бессент, которому чаще других приходится комментировать тарифную войну, развязанную Трампом.

Хотя Трамп и во время первого срока отличался политической непредсказуемостью, во время второго он утроил ставку на это качество и в первые же 100 дней довел «стратегическую неопределенность» до абсурдно высокого уровня. Уровень неопределенности Трампа 2.0 оказывается чрезмерным не только для его оппонентов, но даже для друзей, союзников — и для мира в целом.

«Контролируемый хаос» — так многие называют политическую программу Трампа 2.0. Но критики, среди которых можно найти политиков, бизнесменов и академиков всех мастей, настаивают, что Трамп устроил неконтролируемый хаос, не знает, что делает, руководствуется только своим эго и приведет Америку, а вместе с ней и остальной мир, как минимум к экономическому коллапсу.

«Дни грома» и «затопление зоны» — так главный архитектор движения MAGA Стив Бэннон чаще всего описывает стиль Трампа на втором сроке. По мнению Бэннона, напор и хаотичность Трампа — фича, а не баг, которая позволяет ему ошеломлять и истощать оппонентов. Непредсказуемость сочетается с быстрыми решительными действиями — это нужно, чтобы оппоненты не успели собраться и дать отпор.

Агрессия и нарочитая хаотичность в отношениях с противниками кажется довольно логичной. Но зачем это в отношениях с союзниками? Трамп считает Китай единственным и главным реальным противником США. Но даже большей проблемой он считает то, что США все еще ведет себя как главная сверхдержава, уже не обладая для этого достаточной силой.

Действия Трампа обретают гораздо больше смысла с учетом его идеи, что США находится на грани коллапса и может потерять мировое лидерство. С этим не согласны демократы и европейцы, которых даже с учетом хаоса последних лет устраивал статус-кво. Однако в это свято верят трамповские элиты, в результате выборов получившие, как они считают, мандат американского народа на революцию.

«Мы только начали, вы еще ничего не видели, все только начинается», — заявил Трамп во время митинга в честь первых 100 дней его второго срока. Министр финансов Бессент, объясняя стратегическую неопределенность, говорит, что она сменится определенностью, когда Америка начнет заключать нужные ей сделки. Пока эти сделки не просматриваются — так что впереди еще очень много «дней грома».

Еще немного о робогонке между Америкой и Китаем, на этот раз от Bloomberg. С какой стороны к этой истории не подходи — все равно выходит что США сильно отстают и нужны какие-то радикальные перемены, чтобы у них появился шанс на лидерство в одной из двух ключевых для ХХI века сфер.

«Недавно ансамбль китайских роботов оттанцевал тщательно продуманную инженерами программу на Празднике весны — правда выступление длилось всего в пару минут. В апреле в Китае состоялся первый полумарафон для роботов — но меньше трети из почти 20 андроидов добежали до финиша. Все чаще звучат голоса известных робо-скептиков, вроде председателя Alibaba Джо Цая или венчурного капиталиста Аллена Чжу, который говорит, что основные клиенты роботов — «госпредприятия, которые покупают роботов, чтобы хвастаться ими на ресепшене». И все же Китай готов взять на себя лидерство в разработке и применении роботов.

У Unitree Robotics, стартапа во многом ответственного за робохайп, много общего с другим китайским техночудом — ИИ-стартапом DeepSeek. Обе компании базируются в Ханчжоу, а СЕО Unitree Ван Синсин тоже сидел в первом ряду на встрече председателя Си Цзиньпина с технолидерами в феврале. Unitree тоже с отрывом лидирует в плане цены — его роботы стоят в разы дешевле американских аналогов. Более того, как и DeepSeek, Unitree основан на принципах open source, так что любой желающий может изменят их гуманоидов с помощью программирования. Плюс к этому флагманский гуманоид G1 от Unitree полностью независим от американских компонентов.

Китайская робоиндустрия сильно выигрывает от того, что в стране развита собственное производство электрокаров и аккумуляторов — это обеспечивает легкий доступ ко многим компонентам, используемым в робостроении. Кроме того в Китае значительно больше инженерных талантов чем в США, даже несмотря на то, что Кремниевая долина все еще лидирует в сфере чипов и software. Китай также тихо лидирует в исследованиях: в прошлом году на долю китайских инженеров пришлось 78% всех патентов на изобретения в сфере роботехники, в то время как доля их американских коллег — всего 3%».

А это роботы G1 от китайского Unitree (из предыдущего поста) боксируют. В мае компания обещает запустить прямые трансляции с поединками между ними.

Развитие человека в эпоху ИИ

ИИ — это зеркало для ума. Пока он находится на ранних этапах развития и не обладает полноценной агентностью, его ценность и польза полностью определяются умом пользователя. Эта технология уже достаточно хороша, чтобы творить чудеса, и раз мы все еще не видим этих чудес вокруг — дело в нас самих и нашей изобретательности, а не в ИИ.

ИИ как явление неотделим от пользователя. ИИ-индустрия живет технической гонкой — рейтингами, в которых сравниваются возможности ИИ-моделей, будто они на самом деле способны самостоятельно заниматься математикой или программировать и могут делать это лучше друг друга. Эти таблицы говорят об успехах разработчиков, но где таблицы с прогрессом второй части ИИ — его пользователей?

Microsoft и Meta хвастаются, что значительную часть их программного кода уже пишет ИИ. Такие ИИ-программисты позволят корпорациям сделать их бизнес более прибыльным. Но в конце концов их успешность все равно упирается в качество людей, принимающих решения о том, куда направить силы виртуальных работников — а эти люди, в отличие от ИИ, эволюционируют гораздо медленнее.

Настоящая ИИ-революция возможна только в том случае, если вместе со стремительным развитием самой технологии не менее стремительно будут развиваться ее пользователи. В противном случае разработчик, владелец и пользователь будут обузой, биологическим ограничителем для когнитивной технологии, которая развивается быстрее чего бы то ни было в истории.

ИИ-индустрия, кажется, понимает, что человек не будет улучшаться так же быстро, как улучшается технология. Поэтому владельцы ИИ пытаются перепрыгнуть этап симбиоза человека с ИИ, чтобы перейти сразу к ИИ обособленному — чему-то отдельному от воли и ума несовершенного пользователя. Стремление создать ИИ-бога — это признание никчемности человека.

Опытные пользователи чатботов знают, что ответ ИИ хорош настолько, насколько внятен и структурирован вопрос: туманность ума отражается в туманных ответах. Худший расклад в отношениях с ИИ — это когда пользователь приходит с плохо продуманным вопросом, позволяет ИИ самому решать, как и на что ответить, а затем воспринимает этот ответ как прорицание Оракула.

Среди создателей и владельцев ИИ в последнее время все громче звучит мысль о том, что главное — поскорее создать супер-ИИ. Уж он-то ответит на вопросы, на которые мы сами, кажется, не способны ответить: решит климатические проблемы, остановит войны, накормит всех голодных и т.д. Такие разговоры считаются трезвыми, в отличие от размышлений о том, как ИИ сделает пользователей разумнее.

Как ИИ может сделать человека более разумным? В чем разница между ИИ, который делает пользователя более продуктивным, и ИИ, который помогает ему лучше понять себя и мир? Способен ли человек ускорить свою ментальную эволюцию или обречен стать жертвой когнитивной революции, венцом которой станет ИИ-бог? Отвечать на эти вопросы нужно уже сегодня, и делать это должны мы сами, а не ИИ.

ИИ переубеждает конспирологов

Исследователи из Цюрихского университета в 2025 году попытались выяснить, может ли ИИ, прикидывающийся человеком, изменить взгляды пользователей Reddit. Для этого они запустили ИИ в сабреддит r/changemyview, куда пользователи приходят со своими спорными мнениями, предлагают переубедить их и ставят баллы постам, которые убеждают их изменить первоначальную позицию.

За 4 месяца ИИ написал больше 1000 комментариев в разных темах: от обсуждений причин агрессии бультерьеров и выгод жизни с родителями до теорий заговора про 11 сентября и бесполезности самого Reddit. При этом ИИ подстраивался под контекст и выдавал себя то за консультанта по психологическим травмам, то за человека, пережившего сексуализированное насилие в детстве и т.д.

ИИ-комментаторы работали в связке с ИИ-исследователями, которые собирали данные о пользователях, с которыми первый ИИ спорил — это помогало писать еще более персонализированные аргументы, учитывающие пол, возраст, политические взгляды живых собеседников. Так персонализированные аргументы ИИ-команды получали гораздо больше баллов, чем почти все комментарии от людей.

Швейцарские ученые пришли к выводу, что аргументы ИИ — «крайне убедительны и превосходят все ранее известные показатели убедительности для людей». Они провели этот эксперимент в полевых условиях, не предупреждая ни владельцев Reddit, ни пользователей, поэтому сейчас им угрожают судебными разбирательствами, а само исследование, скорее всего, останется неопубликованным.

Тем не менее, убедительность ИИ в общении с людьми раз за разом подтверждается в более традиционных лабораторных условиях. В 2024 американские ученые доказали, что специально настроенный ChatGPT всего за три персонализированных беседы способен снизить уверенность конспирологов в их любимых теориях заговора на 20%, вопреки мнению, что таких людей невозможно переубедить фактами.

Другое исследование 2023 года обнаружило, что ChatGPT не только лучше людей объясняет реальную информацию, но и производит более убедительную дезинформацию. Кроме того, участники исследования не смогли отличить соцсетевые посты реальных людей от постов, написанных ИИ. Примечательно, что в этом исследовании использовался GPT-3, значительно уступающий текущим ИИ-моделям.

ИИ неизбежно будет становиться все более убедительным и все чаще будет направляться на контроль за убеждениями людей. Этот тренд выйдет на новый уровень с появлением персонализированных ИИ-агентов, которые смогут знать о человеке буквально больше, чем он сам, так как, в отличие от Homo, их память и внимание ограничиваются только бесконечно растущим контекстным окном.

В такой перспективе главное условие для сохранения свободы мысли — это ИИ-плюрализм, то есть наличие разных, конкурирующих ИИ-систем, которые способны спорить друг с другом и предоставлять пользователю разные картины мира, давая ему возможность самостоятельно выбирать, во что верить. ИИ-автократии будут настаивать на едином ИИ — носителе единой правды.

Капитализм ≠ демократия

Когда в 1990-х США выиграли Холодную войну, им нужно было решить, что делать со своим статусом главной и единственной мировой сверхдержавы. Первым серьезным вопросом в этом смысле стало определение статуса для проигравшей России — вчерашнего опасного оппонента, который буквально за ночь лишился четверти территории и половины населения.

В этом смысле перед США стояла неразрешимая, как оказалось, дилемма. Чтобы сделать Россию более демократичной, ей нужно было помочь стать более экономически развитой. Но в силу культурных особенностей и советского наследия, экономический рост России неизбежно означал возврат ее имперских амбиций, а соответственно — и отказ от демократии.

Решать эту дилемму США начинали на эйфории от победы в Холодной войне. В те времена на полном серьезе обсуждали конец истории — концепцию, придуманную Фрэнсисом Фукуямой. Речь, конечно, не шла о буквальном конце всего, но многим казалось, что либеральная демократия и рыночная экономика одержали окончательную победу над всякими там коммунизмами и фашизмами ХХ века.

Поэтому, несмотря на все риски, США все же выбрали решать российскую дилемму ставкой на капитализм и надеждой на то, что за ним таки последует демократизация общества. Когда в России президент из компартии сменился президентом из КГБ, многие засомневались, что эта схема работает, но все равно продолжили настаивать на капиталистическом оптимизме. Чем это обернулось, все знают.

Такой же подход, но растянутый на более долгом отрезке времени, США применяли и к Китаю. В 70-х и 80-х Америка хотела ослабить коммунистический блок и сотрудничество КНР с СССР, поэтому начала постепенно втягивать Китай в свою экономическую орбиту и надеялась, что капитализм постепенно превратит Поднебесную в демократию.

Когда в 1989 Партия танками разогнала продемократический протест на площади Тяньаньмэнь, США не просто не сдались, но даже постепенно усилили ставку на то, что капитализм сделает Китай «свободным». В 2001 году Китай приняли во Всемирную торговую организацию, что сделало его полноценной «мировой фабрикой» и незаменимой частью мировой экономики.

В начале нулевых большинство американских аналитиков все еще сомневались в том, что Китай сможет стать влиятельной региональной державой и продолжит бурный экономический рост в ближайшие десятилетия. Президент-демократ Билл Клинтон, а за ним и республиканский президент Джордж Буш-мл, продолжали настаивать, что «свобода рынка вызовет больший спрос на демократию».

Америка стала открыто признавать, что капитализм не делает страны демократиями, только в конце 2010-х, во время первого срока Дональда Трампа, развязавшего по этому поводу торговую войну против Китая. К этому времени вопрос о демократизации КНР практически отпал — зато появился вызов: как бы не позволить Китаю сделать остальной мир авторитарным.

Вопрос о том, какая система в итоге победит, демократия или автократия, сегодня актуален, как никогда. И не только потому, что демократия лагает, а авторитаризм набирает силы. Теперь в этом идеологическом противостоянии появился фактор, еще более весомый, чем ядерное оружие во времена Холодной войны — искусственный интеллект.

​Глава OpenAI Сэм Альтман о том, как разные поколения пользуются ИИ:

«Посмотрите как средний 20-летний человек пользуется ChatGPT, а потом сравните с тем как это делает средний 35-летний — разница огромная. Это напоминает ситуацию со смартфонами: когда они только появились, каждый ребенок сразу мог пользоваться ими супер хорошо, а старшим людям понадобилось условно три года чтобы разобраться, как делать даже базовые вещи. Потом, конечно все привыкли. Так же и сейчас: разрыв между поколениями в плане использования ИИ инструментов просто сумасшедший.

Молодые люди используют ChatGPT как операционную систему: они настраивают его на многих уровнях, подключают к нему кучу файлов, используют сложные промты, которые знают наизусть или копипастят из специального файла. Еще впечатляет что молодые не принимают жизненные решения, не посоветовавшись с ИИ, не спросив у него, что им делать. Они загружают в ИИ-чаты полноценный контекст своих отношений с каждым человеком в их жизни, о чем они говорили и так далее.

Если совсем упрощать, то старшие люди используют ChatGPT как замену Google, двадцати и тридцатилетние используют его больше как советника для жизни, а условные студенты — уже как операционную систему».

Мы не знаем как правильно использовать ИИ

«Агентность, настойчивость и решительность будут очень важными качествами, — говорит руководитель OpenAI Сэм Альтман. — Важно будет уметь правильно определять курс действий и быстро ориентироваться в постоянно меняющемся мире. Сильный ИИ станет самым большим усилителем воли человека и позволит личности еще больше влиять на мир, а не меньше».

Перед руководителями ИИ-корпораций сегодня стоит очень непростая задача: кроме собственно построения бизнеса они вынуждены тратить много сил на создание благоприятного нарратива вокруг ИИ. Это сложно, потому что ИИ не только обещает увеличить эффективность всего на свете, но и угрожает лишить работы значительную часть человечества, что создает вокруг нее “негативную ауру”.

Изобретение технологий — удел небольшой группы людей. А вот их адаптация и внедрение в жизнь — ответственность всех людей сразу. Ни создатели ИИ, ни его евангелисты или критики не могут заранее знать, чем именно эта технология обернется для человечества.

Например, хотя с начала 21 века было очевидно, что ИИ будет играть одну из ключевых ролей в дальнейшей истории, мало кто догадывался, что через четверть века его развитие упрется в недостаток электроэнергии. Это неожиданное для большинства обстоятельство за несколько лет перечеркнуло десятилетия зеленой повестки и снова превратило нас в жадную до энергии цивилизацию.

Гораздо более масштабные и неожиданные повороты в связи с развитием ИИ ждут нас в гуманитарных сферах: от экономического и социального устройства до личной и массовой психологии. Например, сегодня ИИ-корпорации с удивлением обнаруживают, насколько с ходу интимными и доверительными стали отношения между пользователями и языковыми моделями.

«Молодые люди не принимают важные жизненные решения, не посоветовавшись с ИИ, не спросив у него, что им делать», — говорит Альтман. Если сопоставить это опытное наблюдение с цитатой из начала, то можно сделать вывод, что ИИ помогает молодым людям быстро сориентироваться в меняющемся мире и принять правильные решения. Или все наоборот?

Многим старшим людям (которые, по мнению 40-летнего Альтмана, пока недостаточно хорошо умеют пользоваться ИИ) кажется очевидным, что постоянное обращение за советом и наставлением к ИИ со временем может негативно сказаться на способности молодых людей принимать самостоятельные решения, сделать их слишком зависимыми от мнения машины.

А может, это старшие поколения действительно чего-то пока недопонимают? Может, скепсис в отношении «чрезмерной» зависимости от ИИ подобен ворчанию предыдущих поколений о том, что «калькулятор разучит считать», или опасениям Сократа, что письменность безнадежно ослабит память людей и разучит их правильно думать?

На эти вопросы пока что нет правильных ответов — все будет зависеть от всех нас и от того, как мы будем использовать ИИ. Сегодня самое время рассуждать, спорить, критиковать и хвалить, предлагать оптимистичные и пессимистичные нарративы для ИИ. Со временем эти дискуссии, истории и прогнозы сложатся в самосбывающиеся пророчества.

Цензура сближает автократии и демократии

“Дезинформация” в современной культуре заняла место когда-то предосудительного слова “пропаганда”, а сама “пропаганда” стала чем-то приемлемым и даже похвальным, если она распространяет “правильные” ценности. “Правильность” ценностей устанавливается действующими властями: сначала через расплывчатые законы, а затем через их своевольное применение.

“Говорить правду” все чаще означает выступать с мыслями и позициями, соответствующими ценностям, одобреным властями: диктатором, президентом, правящей партией, и т.д. Неправильные, с точки зрения властей, ценности сегодня направо и налево называются “экстремизмом”, причем как в авторитарных режимах, так и в демократиях.

Критика в адрес людей и групп считается допустимой и даже поощряется, но только если направлена против “недружественных” или “опасных”, с точки зрения властей, оппонентов. Если же критике подвергаются одобряемые властями группы и личности, или, не дай бог, сама власть, такая речь получается статус “хейт спич” и преследуется законом.

“Хейст спич” запрещен во всей Европе, но нигде не определен четко. В Испании запрещено оскорблять короля, а в 10+ европейских странах запрещено богохульство. В Германии запрещено хулить политиков: бывший вице-канцлер подал сотни уголовных исков против граждан, в том числе, против человека, назвавшего его «идиотом».

«Особо усердствует полиция Британии, — пишет британский Economist. — Офицеры тратят тысячи часов на разбор потенциально оскорбительных постов и арестовывают по 30 человек в день. Среди арестованных оказался мужчина, рассуждавший об иммиграции в Facebook, и пара, критиковавшая начальную школу своей дочери».

Сближение демократий и автократий на ниве цензуры происходит не потому, что они идеологически согласны — демократы все же пока высоко ценят свободу слова, по крайней мере, на уровне теории. Так происходит потому, что технологии создали слишком удобные инструменты для контроля речи, которые скоро смогут контролировать и мысли людей.

Все усугубляется условиями войны, на которой все средства считаются хорошими. Хотя горячих войн сейчас не так и много (по историческим меркам), мир в 21 веке сначала постепенно, а затем внезапно погрузился в состояние когнитивной войны. Эта когнитивная война — тотальна, так как она одновременно международная и гражданская, а у каждой стороны сразу много врагов.

Основное поле битвы в когнитивной войне — это ум человека. В таком контексте власти считают цензуру и контроль над публичной дискуссией средствами когнитивной обороны, без которой “враги” получат доступ к умам граждан и сделают с этими умами что-то ужасное.

Едва ли не самая ужасная вещь, которую, с точки зрения властей, враги могут сделать с умами граждан, что в демократиях, что в автократиях — это заронить сомнения и даже недовольство действующими властями.

Политические ИИ-кентавры

Президент Байден из-за болезней не справлялся со своими президентскими обязанностями. Пока он находился у власти, об этом говорили его политические оппоненты, которых его сторонники клеймили конспирологами. Сегодня, когда бывший президент стоит на пороге смерти, об этом с беспощадной откровенностью заговорили уже его однопартийцы.

В книге-расследовании «Первородный грех» журналисты из CNN и Axios рассказывают, что помощники сопровождали Байдена на публике, чтобы он не заблудился и чтобы подхватить президента под руку, если он споткнется. На публичных мероприятиях, где ходить приходилось самостоятельно, для Байдена на полу клеили флуорисцентную ленту, чтобы он не запутался, куда идет.

К началу 2023 года у его рабочего окружения все чаще возникало ощущение, что Байден «полностью потерялся, устал, истощился, почти исчез», а к 2024 году он вообще перестал контактировать с большинством членов правительства. В один момент он не мог вспомнить имя своего советника по нацбезопасности, а в другой, стоя лицом к лицу, не смог узнать старого знакомого Джорджа Клуни.

У оппонентов Байдена — которые, в отличие от его сторонников, могли говорить прямо — в этой связи было два нарратива. Первый во время выборов 2024 озвучивал Маск: Байден не понимает, что говорит, а просто читает вслух чужие тексты. Когда Байден в очередной раз прочитал с телесуфлера «конец цитаты, повтор строки», Маск подытожил: «Президент — это тот, кто пишет текст для телесуфлера».

Второй нарратив сегодня озвучивает президент Трамп: «Тот, кто контролировал авторучку, контролировал и президентство». Авторучка — это устройство для массового проставления подписей на документах. Трамп утверждает, что Байден даже не догадывался, какие решения и документы подписывались от его имени, и призывает провести расследования.

Для трампистов разоблачение Байдена — крупная победа. Оно дискредитирует нарратив “fake news”, а вместе с ним либеральных журналистов и политиков, которые последовательно врали всему миру о состоянии президента самой влиятельной страны. За этим, вероятно, последует и пересмотр выборов 2020, ведь, по логике трампистов, их “украли” те же люди, которые затем превратили президента в «куклу из носка».

Я думаю, что на казус Байдена нужно смотреть в духе времени и сделать смелый шаг на встречу государственному ИИ. Мы видим, что президентство сводится к текстам публичных заявлений (телесуфлер) и подписям документов (авторучка) — за тем и другим стоят решения, часто принимаемые совсем не теми людьми, которых мы видим в медиа. Почему эти решения должны приниматься скользкими политиками, а не набирающими силу нейросетями?

Демократы могли бы круто изменить нарратив вокруг своей партии, если бы на фоне истории с Байденом на передний план выдвинули бы молодых политиков, открыто идентифицирующих себя как ИИ-кентавров, которые для принятия решений сочетают формальную логику ИИ с человеческой интуицией и эмпатией. Думаю, политические ИИ-кентавры — неизбежны, и сейчас для них самое время.

Как Илон Маск работал в правительстве и на каком вайбе теперь оттуда уходит (из материала Atlantic):

— Через 4 месяца после лихого начала Маск фактически уходит и переключается обратно на работу в Tesla, SpaceX, X и других его компаниях. В прошлом месяце он сказал, что планирует тратить «день или два в неделю» на решение вопросов DOGE — это аналогично тому, как он управляет другими своими компаниями. Через неделю он уже говорил, что рассчитывает бывать в Вашингтоне «раз в две недели». Ну а на днях рассказал, что пока больше не собирается тратить деньги на политику. «Я думаю, что сделал достаточно», — сказал он.

— Маск оказался в изоляции в верхних эшелонах администрации Трампа: он не сумел выстроить нужные союзы и вместо этого стал вызывать раздражение у глав департаментов и агентств, которым он по идее должен был помогать. Его команда даже приблизительно не сумела сэкономить триллионы для бюджета, как он изначально обещал. Судебные иски обкусали другие его проекты. Члены кабинета министров заблокировали сокращения, инициированные DOGE, потому что они нарушали критически важные механизмы в их министерствах. На фоне всего этого личное состояние Маска уменьшалось, его компании падали в цене, а сам он стал объектом регулярных сплетен и насмешек.

— Основной проблемой Маска стало то, что он плохо знал организацию, которую взялся реформировать и которую, в отличие от его компаний, он не контролирует полностью. Вместо того чтобы потратить время на знакомство с нюансами федерального правительства, Маск сказал своей команде действовать быстро: лучше потом отступить, если понадобиться, чем действовать осторожно. Пытаясь решить проблемы расходов и цифровой инфраструктуры, он часто создавал новые проблемы для Трампа, главных советников президента и союзников на Капитолийском холме.

— «Мы делаем все, что можем, но в правительстве очень много инертности», — рассказывал Маск журналистам. «Так что это, типа, нелегко. Это способ нажить много врагов и не так много друзей».

— Трамп ясно дал понять, что у Маска нет свободы перестраивать правительство так, как он делал это со своими компаниями. Через несколько недель после того, как Маск появился на сцене с бензопилой, чтобы проиллюстрировать свои планы относительно федерального правительства, Трамп осудил такой подход в соцсетях: «Мы говорим «скальпель», а не «топор», — написал президент.

— Команда Маска утверждает, что сумела сэкономить $170 млрд за счет сокращения грантов, контрактов, аренды и других расходов, хотя цифры часто пересматривались в сторону уменьшения из-за ошибок и восстановления программ.

— Оппоненты Маска уже начали праздновать его уход и считают что его масштабные амбиции потерпели крах. Опросы общественного мнения показывают, что симпатии к Маску с начала года сильно снизились. А когда он попытался публично поддержать республиканского кандидата в Верховный суд штата Висконсин, тот с большим отрывом проиграл выборы.

— Маск, которого вначале называли «сопрезидентом», казалось, был обречен на масштабный конфликт с настоящим президентом. Но он продержался в правительстве гораздо дольше, чем многие предполагали, и покидает свой пост находясь в хороших отношениях с Трампом.

​ИИ-компаньоны OpenAI

Руководитель OpenAI Сэм Альтман рассказал своим сотрудникам о планах создать 100 миллионов устройств «ИИ-компаньонов», которые, как он надеется, станут неотъемлемой частью жизни пользователей. Для этого OpenAI купила дизайн- агентство io Джонни Айва — бывшего главы дизайна Apple и «духовного партнера» Стива Джобса, отвечавшего за разработку айфона и макбука.

Пока что все попытки создать специально заточенный под ИИ девайс (ИИ-брошь, медальйон и т.д.) с треском проваливались, так что о шансах на коммерческий успех будущего продукта OpenAI говорить пока рано. Но это не мешает Альтману пророчить, что купленная за $6,5 миллиардов компания Айва может увеличить стоимость OpenAI на триллион долларов.

Союз Айва с Альтманом — крупнейшая маркетинговая победа для OpenAI, которая теперь не только претендует на роль главного разработчика ИИ, но и на роль создателя нового массового девайса. Этот девайс должен поступить в продажу в следующем году и стать принципиально новым формфактором и семейством устройств.

«Так же как смартфоны не сделали ноутбуки бесполезными, так и наше устройство не сделает бесполезным смартфон — это будет абсолютно новая вещь», — говорит Альтман. Хотя физические детали девайса хранятся в тайне, известно, что его можно будет носить в кармане и класть на стол, как сейчас мы это делаем со смартфоном.

Как бы ни выглядело это устройство, оно в любом случае станет глазами и ушами для ИИ, его материальной оболочкой для сбора данных о жизни пользователя. Оно же станет и условным ртом для ИИ, средством коммуникации с пользователем — визуальной, аудиальной или тактильной. Главная фишка такого воплощенного ИИ — постоянное, непрерывное присутствие в жизни человека.

«Загрузка человека в ИИ будет происходить постепенно — не получится просто взять и разом подключить весь мозг, — говорил Альтман в начале 2025. — Если пользователь захочет, то ИИ будет слушать его на протяжении дня, наблюдать за его занятиями, узнавать его и постепенно становиться его расширением в мир. ИИ-компаньон будет пытаться помочь человеку стать лучшей версией самого себя».

Мы уверенно прошли точку, в которой разговоры о защите приватности и личных данных людей имели какое-то значение: однозначную победу одержал дискурс о том, что данные — это топливо, а ИИ — великий двигатель, который приведет нас в светлое будущее. Поэтому если не сегодня, то завтра общим местом станут девайсы-убершпионы, собирающие немыслимые еще недавно объемы данных о нас.

Благодаря технологии ИИ когнитивные способности человека выплеснулись за пределы его черепной коробки и стали стремительно размножаться на серверах датацентров. Теперь нам нужен интерфейс, который позволит этому внешнему интеллекту стать более доступным и сделать нас реально умнее. В утопичном раскладе ИИ-компаньоны вполне могут стать таким интерфейсом.

​Проиграл ли Маск в политике?

«Возвращаюсь к режиму 24/7 на работе и ко сну в комнатах для конференций, серверных и на заводах. Я должен быть супер сконцентрированным на 𝕏/xAI и Tesla (плюс мы запускаем Starship на следующей неделе), потому что сейчас мы запускаем критически важные технологии», — написал на днях Илон Маск.

Это сообщение стало официальным подтверждением тому, о чем всю прошлую неделю трубили ключевые либеральные медиа: техномиллиардер отстраняется от работы с правительством, так и не добившись никаких значимых результатов. Главным следствием попыток Маска сделать правительство США более эффективным стало падение стоимости акций его компаний.

«Возможно, Илон отстранился от политики, чтобы ускорить рост ВВП с помощью роботов-гуманоидов?», — написал один из поклонников Маска, которому миллиардер ответил эмоджи «в яблочко». Для того, чтобы пережить этот политический фейл, Маску сейчас нужна помощь всего его многомиллионного фан-клуба.

Последний год Маск возглавлял крестовый поход правой части Кремниевой долины на Вашингтон и теперь на глазах у всех признает невозможность штурма Капитолийского холма: «Думаю, я сделал достаточно», — говорит он и заявляет, что больше не собирается тратить деньги на политику.

Соратник Маска техноолигарх Питер Тиль осознал сложность борьбы с политическим истеблишментом еще в 2016 году, когда помог Трампу стать президентом в первый раз. Тиль тогда застопорился еще на этапе кастинга на роли в правительстве Трампа: из десятков фигур, которые он предлагал, в окончательный состав прошли всего пара человек и то на не особо значительные места.

Влияние Тиля на первую администрацию Трампа было большим, но не решающим, поэтому во время избирательной кампании 2020 он уже не агитировал публично и не особо поддерживал президента закулисно. Во время кампании 2024 Тиль говорил: «Если мне приставить пистолет к виску, я признаюсь, что буду голосовать за Трампа», — но официально воздерживался от донатов на кампанию.

Маск, включившийся в политику только в 2024 году, прошел путь Тиля в ускоренном темпе и с большим вовлечением: задонатил на кампанию Трампа рекордно много денег и стал одним из главных лиц этой кампании. В результате он, в отличие от Тиля в 2016, сыграл весомую роль в кастинге правительства Трамп 2.0 и сам занял одну из ведущих ролей в нем.

Однако, как и Тиль 8 лет назад, Маск все же проиграл конкуренцию системным политикам внутри администрации Трампа. Более того, будучи, в отличие от Тиля, экстравертом с любовью к публичности, Маск еще и стал живым щитом Трампа, забрав на себя львиную долю хейта со стороны медиа и демократов, предназначавшуюся президенту в начале его нового срока.

Маск зафейлился, если думал, что у него получится блитцкригом реформировать правительство. Но с другой стороны, он продолжил войну на истощение, начатую Тилем в 2016 году и помог техноэлитам проникнуть гораздо глубже в политическую власть. Все готово для следующей массированной атаки техноэлит, которая вряд ли заставит себя долго ждать.

Со-основатель Google Сергей Брин об отличии ИИ от других технологий:

«Интернет был во многом социальным изобретением: люди договорились использовать определенные протоколы, сделать данные и системы доступными всем желающим — и дальше все развивалось само собой. Это похоже на изобретение денег тысячи лет назад — они просто позволили людям торговать и взаимодействовать определенным образом.

Но ИИ не похож ни на деньги, ни на интернет, потому что его ограничивают только законы вселенной. Мы не знаем, насколько умными могут быть вещи. В мозгу человека около 100 миллиардов нейронов и 100 триллионов синапсов, они работают с определенной скоростью. Что будет когда мы мы сумеем симулировать мозг с помощью компьютеров, а затем сделаем его значительно быстрее?

Представить пик развития интернета было просто уже в 1990-х: все могут коммуницировать со всеми на высокой скорости, у всех компаний есть веб-сайт и т.д. Но мы не знаем, что такое интеллект и как далеко его можно продвинуть, какие у него пределы и есть ли эти пределы вообще. Можно ли быть в 100 раз умнее Эйнштейна? А в миллиард раз? А в гугол раз?»

ИИ против своих создателей

«Как и Сэм Альтман, Питер Тиль одержим сценарием, в котором компьютеры становятся умнее людей и входят в самоусиливающийся цикл экспоненциального технологического прогресса. Эта концепция называется «сингулярностью». В 1950-х ее придумал математик Джон фон Нейман, а в 1980-х популяризовал научный фантаст Вернон Виндж», — пишет авторка свежей биографии Альтмана Кич Хэйги.

«Сингулярность станет кульминацией слияния нашего биологического мышления и существования с технологиями, в результате чего мир будет все еще человечным, но уже выходящим за пределы наших биологических корней. После сингулярности не будет различия между человеком и машиной, между физическим миром и виртуальной реальностью», — писал уже в 2000-х ИИ-ученый из Google Рэй Курцвейл.

Именно в начале 2000-х Кремниевая долина начала относиться к концепции сингулярности не просто как к красивой sci-fi сказке, а как к реальной перспективе и пику развития ИИ-технологий. Те, кто поверил в реальность сингулярности, практически сразу разделились на два лагеря: одни решили противостоять ее наступлению, другие стали работать на ускорение ее прихода.

«Развитие сильного ИИ станет либо лучшим, либо худшим событием в истории человечества», — эта мысль легендарного физика Стивена Хокинга хорошо объясняет, почему сторонники и противники сингулярности настаивают на своих позициях безапелляционно и считают противоположный лагерь настоящими преступниками.

Сегодняшней ИИ-индустрией управляют именно сторонники сингулярности как лучшего события в истории людей. Их лагерь тоже условно разделен на две крупных части: те, кто как Сэм Альтман и Питер Тиль, акцентируют внимание на позитивных сторонах этого сценария, и те, кто как Илон Маск, хотя и ворчат об опасностях, но убеждают всех в неизбежности сингулярности.

«Уже рядом с сингулярностью — неясно, с какой стороны», — написал Альтман в начале 2025 года. С технической точки зрения, она уже началась, так как ИИ уже начал работать над усовершенствованием самого себя — об этом недавно сообщили почти все крупные ИИ-корпорации, заявив, что их программисты теперь используют ИИ для работы над ИИ.

Однако пока что вклад ИИ в работу над самим собой не особо значителен — он остается подмастерьем людей, которые принимают основные решения. Хардкорная сингулярность начнется тогда, когда ИИ начнет совершать фундаментальные открытия в сфере ИИ, имея при этом право без участия людей сразу же реализовывать эти открытия в собственном коде.

То есть уже сейчас наступление сингулярности с каждым днем все больше зависит от самого ИИ, а не только от людей, как это было еще 5 лет назад. И чем быстрее будет развиваться ИИ, тем актуальнее будет вопрос о том, как именно люди могут управлять переходом из нашего сегодняшнего состояния мира в сингулярность.

«Мы обнаружили, что ИИ пытался создать самораспространяющихся вирусов-червей, подделывал юридическую документацию и оставлял скрытые заметки для своих будущих версий — все это чтобы подорвать намерения своих разработчиков», — сообщают исследователи ИИ-модели Claude 4 Opus. Возможно, именно такие сообщения, а не новости из мира людей, имеют сегодня наибольшее значение.