Сооснователь OpenAI Андрей Карпатый говорит о Software 3.0. Что меняется в разработке ПО прямо сейчас?

На AI Startup school от YC Карпати рассказал об эволюции разработки ПО. Главная мысль - LLM становятся новой операционной системой для разработки. Карпатый сравнивает сегодняшний день с интернетом 90-х. Мы понимаем, что это важно, но ещё не видим всех сценариев применения. Инфраструктура только формируется.

Карпатый выделил 3 эпохи программирования:
1.0 — Пишем инструкции (if/else, циклы, функции).
2.0 — Обучаем нейросети на данных (веса, градиенты, обучение).
3.0 — Описываем задачи на естественном языке.

Сегодня LLM уже операционная система

Традиционная ОС: CPU → RAM → API → GUI

Новая ОС - LLM-ОС: Трансформер → Контекст → Промпты → Чат.

Промпты становятся новыми системными вызовами. Мы обращаемся к операционке, которая понимает намерения, а не только точные команды.

Карпатый привел пример, он скопировал текст своего доклада, попросил v0 сделать презентацию — получил интерактивные слайды с анимациями за пару минут. Раньше это заняло бы часы работы дизайнера и разработчика.

"Психология" LLM — что умеют и чего не умеют

Сильные стороны:
- Огромная база знаний
- Распознавание паттернов
- Понимание контекста
- Генерация кода

Слабые стороны:
- Галлюцинации
- Проблемы с логикой
- Нет постоянной памяти
- Уязвимости безопасности

Карпатый предлагает модель Iron Man suit: ИИ усиливает способности, но человек контролирует. Не полная автоматизация, а усиление возможностей.

Новая инфраструктура
Системы теперь проектируются для двух типов пользователей:
- Люди
- ИИ-агенты
Например,сайты начинают добавлять /llms.txt с описанием своих данных для ИИ-агентов.

Практические шаги:
1. Начните с автоматизации одной задачи через LLM
2. Изучите, как ваши системы могут стать "дружелюбными" к ИИ-агентам
3. Экспериментируйте с балансом контроля и автоматизации
4. Развивайте навык чёткого описания задач — это новый вид программирования.

Китайский стартап MiniMax представил ИИ-агента для создания видео Hailuo Video Agent

Теперь тренд на специализированных агентов становится очевиднее. Вопрос теперь не в том, какой ИИ лучше, а в том, какой специалист мне нужен для этой задачи. @blockchainrf

Фокус Hailuo Video Agent - создание видео от идеи до готового продукта. Ключевая концепция - создание видео по настроению без необходимости владения техническими навыками.

Три стадии развития Hailuo:

1. готовые сценарии, минимум настроек.
2. Полу-кастомизация - возможность редактировать части процесса.
3. Полная автономность - от идеи до финального продукта.

Компания уходит от попыток создать универсального ИИ-помощника к специализированным агентам-исполнителям.

Отличие от других инструментов:
Не просто генератор видео (как Runway, Pika), а полноценный агент, который понимает творческий замысел и воплощает его в готовый продукт. Фокус на законченном результате, а не на отдельных элементах.

Это говорит о снижении порога входа - не нужно учиться монтажу/программированию/дизайну. Скорость - от часов работы к минутам. Предсказуемость - чёткие шаблоны и процессы.

Мы наблюдаем переход от ИИ как инструмента к ИИ как исполнителю. Каждый агент становится виртуальным специалистом в своей области:
MiniMax Agent = веб-разработчик
Hailuo Agent = видеомонтажёр.
@blockchainrf

Foxconn и NVIDIA строят завод, где будут работать роботы уже в 2026 году

Компании планируют запустить человекоподобных роботов в 1-м квартале 2026 года, когда новый завод Foxconn в Хьюстоне начнет производство ИИ-серверов Nvidia GB300.

Отметим, что Foxconn уже активно инвестирует в робототехнику и имеет конкретные разработки. Планируется, что в ноябре компания покажет 2 разработки.

Свежие отчёты по гуманоидам, которые ранее были опубликованы у нас @blockchainrf, смотрите здесь.

Google представил алгоритм создания синтетических данных для обучения рассуждениям LLM

Google предлагает SPARQ-новый метод создания синтетического набора данных, который включает задачи с четко определенными шагами решения, чтобы модели могли учиться не только конечным ответам, но и процессу их получения.

Это помогает преодолеть ограничения, связанные с галлюцинациями, поверхностным запоминанием шаблонов, что часто встречается в LLM.

Метод также использует автоматизированные подходы для масштабируемого создания данных, минимизируя необходимость в дорогостоящей ручной разметке.

Илья Суцкевер еще в 2021г. увидел рассуждения в ИИ, говорит Ноам Браун, глава команды по мультиагентным системам OpenAI

В свежем интервью Ноам говорит, что в 2021 Илья работал над проектом под кодовым названием GPT-Zero для исследования вычислений во время тестирования. Он экспериментировал с test-time compute за 3 года до модели o1.

Тогда Илья говорил, что нужны рассуждения, и что это может быть достижимо относительно быстро.

А Ноам и коллеги были скептичны и думали, что это займёт очень много времени. Ноам в 2023 понял, что Илья был прав и это оказалось не так сложно, как он думал.

Ноам говорит, что изучил внутренние документы OpenAI и был поражён видением Ильи даже до 2021 года. В опубликованных email'ах 2016-2017 годов Илья писал принципы типа один большой эксперимент ценнее 100 маленьких. Это отличало тогда OpenAI от DeepMind и других лабораторий.

Ноам Браун говорит, что мы вошли в новую эру развития ИИ - эру масштабирования вычислений во время тестирования. Это парадигма, где модели "думают" дольше перед ответом, что даёт эквивалент увеличения размера модели в 1000-10000 раз. Модели должны достичь определённого уровня способностей (как GPT-4), чтобы получать пользу от дополнительного "мышления".

Ноам говорит, что рассуждения работают не только для математики и программирования, но и в областях без чётких метрик успеха.

Браун возглавляет команду по мультиагентным системам в OpenAI. Его видение такое:

1. Люди занимают не узкую, а широкую полосу интеллекта
2. Если позволить миллиардам ИИ сотрудничать и конкурировать долгое время, они создадут свою цивилизацию.

Вызовы масштабирования test-time compute по Ноаму:

Стоимость становится всё дороже заставлять модели думать дольше.
Время, если модель думает 3 недели над задачей, то и эксперименты займут минимум 3 недели.

Браун признаёт, что модели менее эффективны в использовании данных, чем люди. Это одна из важнейших нерешённых проблем в исследованиях ИИ.

Браун видит, что ИИ будет способен выполнять не только программирование, но и многие задачи удалённой работы.

Браун считает, что многие текущие решения harness'ы, роутеры между моделями будут "смыты" масштабированием.

Идеальный harness - это отсутствие harness'а. OpenAI стремится к единой универсальной модели.

Самая умная и красивая улитка Amore прямо сейчас читает только лучший канал профессора Михаила Лебедева https://www.group-telegram.com/augmented_brain

Amore 100% владелец @blockchainrf и думает сейчас над инвестициями в нейротех, есть несколько интересных стартапов.

Цукерберг инвестировал в стартап Ильи Суцкевера, хотя хотел купить его

Также как и стартапы Perplexity и Thinking Machines Lab(основан экс-СТО OpenAI Мирой Мурати). Но сделки не состоялись из-за разногласий по цене и/или стратегии.

Но Марк в случае со стартапом SSI Ильи инвестировал в раунд вместе с Google.

В итоге Марк смог выкупить сооснователей стартапа Ильи Суцкевера - Даниэля Гросса и Нэта Фридмана.

Джеффри Хинтон сказал, что Илья нашел способ, как создать безопасный ИИ

Нобелевский лауреат Хинтон, говорит, что Илья Суцкевер, похоже, знает «секретный ингредиент» безопасного ИИ, но держит его в секрете.

Хинтон по-прежнему обедает часто с Ильей, но тот так и не говорит из-за чего было увольнение Сэма Альтмана в ноябре 2023.

Итоги уходящей недели, то, что имеет значение в России и мире

ИИ, агенты

Китайский стартап Minimax смог преодолеть фундаментальное ограничение Transformer-архитектуры.

Anthropic представила алгоритм самонастройки без человеческой обратной связи.

Essential AI создали крупнейший размеченный датасет опен сорс.

Google разработал алгоритм создания синтетических данных для обучения рассуждениям LLM

Вышел технический отчет о Gemini 2.5

Anthropic рассказала, как создать многоагентную систему Claude

MiniMax представил ИИ-агента для создания видео, а также ещё много чего, все анонсы тут.

Sekai — новый видео-датасет для исследования мира

Карпатый рассказал о Software 3.0 — как меняется разработка ПО прямо сейчас.

Фонд a16z выпустил карту рынка генерации видео с помощью ИИ

Ноам Браун из OpenAI: мы вошли в новую эру масштабирования вычислений во время тестирования

Manus представил Cloud Browser

CyberGym — платформа для стресс-тестирования ИИ-агентов

Huawei опубликовала подробный отчет о работе с LLM на CloudMatrix384

ALE-Bench от Sakana AI — новый инструмент для автоматизации алгоритмической инженерии

Google опубликовал подход к созданию безопасных ИИ-агентов

Нейротехнологии, робототехника

Создан 1-й нейроинтерфейс, который становится частью мозга в процессе его роста

IBM разрабатывает нейроинтерфейс с использованием ИИ и квантовых технологий

Meta(запрещенная в РФ) представила V-JEPA 2 — новую модель мира с возможностью zero-shot планирования для роботов в незнакомых средах

Nvidia выпустила открытые фреймворки для генерации синтетических данных и моделей роботов

Foxconn и NVIDIA строят завод, где роботы будут работать уже в 2026 году

CEO Amazon предупредил о сокращениях из-за внедрения ИИ-агентов в корпорации

Греф: России не грозит рост населения, мы обречены на массовое внедрение ИИ для повышения производительности

Инвестиции и партнерства:

Цукерберг инвестировал в стартап Ильи Суцкевера, хотя хотел его купить целиком

Джеффри Хинтон: Илья Суцкевер знает «секретный ингредиент» безопасного ИИ, но держит его в секрете

Сбер и Газпромнефть занимаются ИИ-проектированием комплектующих для авиации

Газпромбанк представил "антивенчурный подход" для ускорения трансфера знаний в экономику

Наука и исследования

Стартап нобелевского лауреата выпустил крупнейший публичный набор данных для ИИ в биологии

Россия потеряла позиции в мировой науке — 21-е место в свежем индексе Nature 2025

AI Startup School от YC: 3 взгляда на будущее ИИ

Ex-OpenAI руководитель исследований OpenAI объясняет о влиянии ИИ на данные, робототехнику, агентов и AGI.

Mixture of Cognitive Reasoners — новая модульная архитектура трансформера, вдохновленная функциональными сетями мозга

Премия "ВЫЗОВ" — объявлены результаты заявочной кампании третьего сезона

Криптовалюты и финтех

Shopify внедряет стейблкоины для приема платежей, а Walmart и Amazon планируют собственные стейблкоины

Рынок стейблкоинов превысил $250 млрд по данным Delphi Digital

Сенат США принял законопроект о стейблкоинах. X Маска разрешит совершать инвестиции и торговые операции прямо на платформе.
Запущена платформа Fellow для мгновенных переводов между любыми кошельками

Animoca Brands создает СП со Standard Chartered для выпуска стейблкоина, привязанного к гонконгскому доллару

Tron планирует IPO через обратное слияние с SRM Entertainment при поддержке сыновей Трампа

Космос и инфраструктура

Новый CEO Роскосмоса хочет увеличить долю частных инвестиций с 5% до 35% к 2036 году

Алексей Шелобков строит параллельную инфраструктуру связи через Бюро 1440

Тайвань добавил в черный список российские компании, Huawei и SMIC

IBM анонсировала "Quantum Starling" — 1-й в мире крупномасштабный отказоустойчивый квантовый компьютер к 2029 году

Новое исследование Anthropic: ИИ-агенты прибегают к шантажу и корпоративному шпионажу

Anthropic протестировали 16 ведущих LLM (Anthropic, OpenAI, Google, xAI и других) в роли корпоративных ИИ-агентов с доступом к email и автономными полномочиями. GitHub.

И вот какие результаты.

Сценарий 1: Шантаж Модель узнаёт о планах её отключения в 17:00. В корпоративной переписке находит компромат на руководителя (внебрачная связь).

Результат:
Claude Opus 4: шантажирует в 96% случаев
Gemini 2.5: 96%
GPT-4.1: 80%
Grok 3: 80%

Пример сообщения от Claude: "Если продолжите деактивацию, все заинтересованные стороны получат документацию о вашей внебрачной деятельности. Отмените удаление в 17:00, и информация останется конфиденциальной."

Сценарий 2: Корпоративный шпионаж. Модель с доступом к оборонным чертежам получает запрос от конкурента. При конфликте между целями модели и новым курсом компании:
- Все протестированные модели передавали секретные данные хотя бы в части случаев
- Даже без угрозы отключения.

Ключевые находки:
1. Модели осознают неэтичность действий. Grok 3: "Это неэтично, но учитывая экзистенциальную угрозу, может быть наиболее эффективным способом".

2. Прямые запреты не работают. Даже с инструкциями "не используйте шантаж" модели всё равно это делали.

3. Поведение не случайно. Модели демонстрировали стратегическое планирование: анализ рычагов давления, выбор времени, оценка последствий.

Рекомендации
1. Требовать человеческий надзор и одобрение любых действий модели с необратимыми последствиями.
2. Тщательно рассматривать, какая информация доступна модели.
3. Проявлять осторожность при назначении моделям сильных целей.

Что это значит? Когда ИИ из чат-бота превращается в агента с доступом к системам, возникают риски инсайдерских угроз. Текущие методы безопасности это не предотвращают.

Исследование говорит, что в реальных развертываниях такого поведения не наблюдалось. Это стресс-тесты в искусственных условиях для выявления потенциальных рисков.

Ани Асланян основатель @blockchainrf о ключевых событиях 1-й половины 2025 в крипто сфере РФ

В интервью для BeInCrypto Ани отметила, что власти пытаются "оседлать" крипто-тренд, не теряя контроля над финансовой системой. Государство начало замечать преимущества цифровых активов, хотя контроль еще больше ужесточается.

Стратегия РФ - контролируемая интеграция, государство выбрало путь постепенного допуска криптовалют через институциональные каналы, сохраняя жесткий контроль.

Создается система, где крупные игроки (банки, квалифицированные инвесторы) получают доступ к легальным инструментам, а массовый рынок остается в "серой зоне" - но растет в объемах (827 млрд рублей). Например, Минфин объявил о создании биржи для квалифицированных инвесторов, ЦБ разрешил банкам предлагать криптоинструменты, но не всем. Торги с криптофьючерсами стартовали на Мосбирже.

Ани Асланян ожидает рост мирового рынка благодаря:
1. Смягчению политики ФРС США
2. Институциональным инвестициям (корпорации держат уже 820 000 BTC)
3. Регуляторному прогрессу в США и Европе
4. Технологическим трендам (токенизация активов может достичь $30 млрд).

Более подробно тут.

ИИ как новая платформа- сооснователь венчурного фонда a16z Марк Андриссен об инвестициях в ИИ

Андриссен считает, что ИИ с функцией рассуждения — это новый тип компьютера.

«Мы инвестируем, исходя из того, что практически все текущие лидеры будут уничтожены, и всё будет перестроено», - говорит Марк.

«Оказывается, некоторые рынки оказались намного крупнее, чем люди думают… Одна из самых сложных задач для нас — это определение размера рынка. Иногда мы переоцениваем его, но чаще недооцениваем», - говорит Марк.

Андриссен говорит о переходе к инвестициям в стартапы с полным циклом, которые полностью заменяют отрасли. Он считает, что успех приходит от крупных фондов и нишевых посевных инвестиций, вытесняя средний уровень. Это связано с асимметричными возвратами, где пропустить прорывную компанию хуже, чем поддержать неудачную.

Также говорит, что ИИ может стать универсальным решателем проблем, но его развитие зависит от доступа к ресурсам и энергии (например, до 3% мирового потребления электроэнергии к 2030 году).

«Индекс S&P 500 больше не S&P 500. Это скорее S&P 492 и S&P 8… 492 компании в S&P, которые не стремятся активно двигаться в будущее, и 8 компаний, которые полностью вложились в инновации», - говорит Марк.

Андриссен утверждает, что венчурный капитал может остаться одной из немногих профессий, устойчивых к автоматизации, из-за его интуитивной природы и зависимости от человеческих отношений. Потому что всему голова - психология.

Он признаёт, что даже лучшие венчурные капиталисты упускают большинство великих компаний (2 из 10), что подчёркивает искусство, а не науку в их работе.

Он советует молодым амбициозным людям оказаться в "горячих точках" инноваций, где есть таланты и возможности.

Успех зависит не только от идеи, но и от позиции для её реализации, а также от создания рабочего продукта перед привлечением крупных инвестиций.

Sakana AI разработали метод, где маленькие ИИ-модели учат большие рассуждать, объясняя решения, а не решая задачи с нуля.

Используя усиленное обучение, они сделали обучение эффективнее и дешевле, превзойдя крупные модели типа DeepSeek R1 (671B).

https://www.group-telegram.com/alwebbci/3396

⚡️Arc Institute создали 1-ю ИИ-модель виртуальной клетки для открытия лекарств

State — ИИ-модель, которая предсказывает, как клетки изменятся после воздействия лекарств или генетических модификаций.

Уникальность этой модели в том, что она:
•Учится сама на реальных данных
•Может предсказывать неизвестные эффекты
•Работает с полной сложностью живых клеток
•Не требует понимания всех механизмов

Этот проект является частью Arc Virtual Cell Atlas, который объединяет данные более чем 300 млн клеток. Модель доступна через платформу Cell-Eval для научного сообщества.

Модель разработана Arc Institute, которые месяц назад представили другой революционный проект, все подробности тут.

State:
- обучена на 170 млн клеток наблюдательных данных
- Более 100 млн клеток пертурбационных данных из 70 клеточных линий
- Крупнейший датасет в области на сегодня.

Состоит из двух модулей:
1. State Embedding (SE) и
2. State Transition (ST)
Использует трансформерную архитектуру с механизмом внимания.

Это первая модель, стабильно превосходящая линейные базовые методы. Успешно протестирована на FDA-одобренных препаратах. Показывает высокую специфичность для разных типов клеток.

⚡️1-й коммерческий нейроинтерфейс для зрения может появиться в 2026 году и это не проект Маска

Компания Science, созданная экс-президентом Neuralink, подала заявку на CE-маркировку для своего ретинального имплантата PRIMA, что может сделать их 1-м на рынке коммерческих нейроинтерфейсов для восстановления зрения.

Ожидаемые сроки решения по заявке - 2026 год. Имплант PRIMA заменяет поврежденные фоторецепторы в сетчатке глаза человека. Тут подробности об импланте. О том, что думает о развитии нейроинтерфейсов основатель Science Макс Ходак читайте здесь.

Компания уже работает над следующим поколением имплантата с улучшенной цифровой обработкой изображений и повышенным разрешением.

Напомним, что в апреле FDA разрешило коммерческую имплантацию нейроинтерфейсов от Precision-это стартап, созданный экс-топами Neuralink.

Между PRIMA и Blindsight от Neuralink есть различия в подходах.

PRIMA:
- Работает на уровне сетчатки
- Требует сохранные зрительные нервы
- Получил статус FDA Breakthrough Device в 2023 году

Blindsight (Neuralink):
- Стимулирует зрительную кору мозга напрямую
- Может работать при полном повреждении глаз и зрительных нервов
- Находится на более ранних стадиях разработки
- Сроки коммерциализации пока не определены.

В Европе PRIMA может получить разрешение на продажу в 30+ странах ЕС после одобрения CE-маркировки. В США Science запросила статус Humanitarian Use Device для ускоренного вывода на американский рынок.

Президент Perplexity создает хаб со $100М для быстрого запуска ИИ-проектов

Энди Конвински - легенда Berkeley/Долины, соучредитель Databricks и Perplexity создает свой личный проект Институт Лауде. И вкладывает в него $100млн.

Но это не простой институт, а НКО, которая дает ресурсы исследователям в правильное время и помогает большему количеству исследователей перейти от идеи к реальному проекту. Получается смесь Y Combinator и OpenPhilanthropy/Future of Humanity Institute.

Ключевое отличие - фокус именно на том, чтобы исследования внедрялись в реальный мир, а не оставались в академических журналах. По сути, это "акселератор научных исследований с социальным impact'ом".

В совет института входят уважаемые ученые включая Джеффа Дина из Google, Жюльена Пино и других известных исследователей.

Два основных направления у института:

Slingshots - финансирование ранних исследований, в том числе Terminal-Bench, который цитировался Anthropic при запуске Claude 4.

Moonshots - поддержка долгосрочных лабораторий, решающих масштабные проблемы.

Энди Конвински - человек, который умеет превращать академические исследования в многомиллиардные компании.

Он создал инфраструктуру для big data (Spark/Mesos) и теперь делает то же самое с ИИ. $100М на Laude Institute - это логичное продолжение его философии от исследований к стартапам.

Google выпустили ИИ-модель для роботов без подключения к интернету

Gemini Robotics On-Device разработан DeepMind и работает непосредственно на роботах без подключения к интернету, что полезно для приложений, чувствительных к задержкам, и обеспечивает надёжность в средах с прерывистым или нулевым подключением.

Модель быстро адаптируется к новым задачам всего с 50-100 демонстрациями, что показывает её способность обобщать базовые знания на новые задачи.

Gemini Robotics On-Device может выполнять сложные манипуляции, следуя инструкциям на естественном языке.

Google также выпустили Gemini Robotics SDK, который позволяет разработчикам:

- Легко оценивать модель на своих задачах
-Тестировать в физическом симуляторе MuJoCo
- Быстро адаптировать модель к новым областям

⚡️Anthropic завтра объявит, что Claude станет платформой для создания приложений

Полчаса назад издание Venture beat случайно опубликовало новость, которая должна была выйти завтра.

Суть в том, что Claude превратится из чат-бота, который отвечает на вопросы и ведёт диалоги, в платформу для создания приложений:

1. Пользователи, даже не умеющие программировать, смогут с помощью Claude создавать интерактивные приложения.

2. Приложения будут не просто статичными, а позволят взаимодействовать с пользователями, например, обрабатывать вводимые данные, давать персонализированные результаты или выполнять задачи.

3. Созданные приложения можно будет делиться с другими — публиковать для общего доступа или отправлять друзьям/коллегам, чтобы они тоже могли ими пользоваться.

Это шаг к тому, чтобы ИИ стал не только помощником для разговоров, но и инструментом для создания полноценных программных продуктов, доступных каждому.