Data Secrets
Intellect-2 или как обучить ризонинг модель на 32В без кластера GPU Помните, примерно пол года назад мы рассказывали вам, как в стартапе Prime Intellect впервые децентрализованно обучили крупную LM? Так вот теперь исследователи пошли дальше и обучили уже…
Prime Intellect запустили SYNTHETIC-2 – крупнейшую децентрализованную систему инференса в мире
Суть в том, что каждый человек может присоединить свою домашнюю GPU или кластер и стать частью сети планетарного масштаба.
Получается, что незнакомые люди со всего мира могут объединить свои карты и децентрализовано обучать и запускать огромные модели. Децентрализовано – значит, модели контролируют и все, и никто.
Каждая отдельная GPU только получает input от предыдущего узла, что-то считает (в случае инференса один степ forward-pass) и передает дальше. Причем схалтурить не получится – Prime Intellect прикрутили умную систему мониторинга TOPLOC V2. Она не следит за вашей GPU отдельно, но если заметит, что в итоговых общих расчетах что-то идет не так – сможет быстро вычислить виновного.
Глобально – это шаг к открытому AGI. Локально – даже частные исследователи смогут проводить полномасштабные полезные эксперименты + можно собрать кучу хороших данных.
И, что касается данных, результат уже есть. С помощью этой системы собрали огромный открытый датасет для обучения ризонеров. Брали DeepSeek-R1-0528, много раз гоняли распределено и нагенерировали много качественной синтетики. Теперь пользоваться данными могут все (hf).
Подсоединить свою карту все еще можно в любой момент. Вот инструкция. А вот тут можно в онлайне наблюдать, как разрастается сеть.
Любопытно, что из этого выйдет
Суть в том, что каждый человек может присоединить свою домашнюю GPU или кластер и стать частью сети планетарного масштаба.
Получается, что незнакомые люди со всего мира могут объединить свои карты и децентрализовано обучать и запускать огромные модели. Децентрализовано – значит, модели контролируют и все, и никто.
Каждая отдельная GPU только получает input от предыдущего узла, что-то считает (в случае инференса один степ forward-pass) и передает дальше. Причем схалтурить не получится – Prime Intellect прикрутили умную систему мониторинга TOPLOC V2. Она не следит за вашей GPU отдельно, но если заметит, что в итоговых общих расчетах что-то идет не так – сможет быстро вычислить виновного.
Глобально – это шаг к открытому AGI. Локально – даже частные исследователи смогут проводить полномасштабные полезные эксперименты + можно собрать кучу хороших данных.
И, что касается данных, результат уже есть. С помощью этой системы собрали огромный открытый датасет для обучения ризонеров. Брали DeepSeek-R1-0528, много раз гоняли распределено и нагенерировали много качественной синтетики. Теперь пользоваться данными могут все (hf).
Подсоединить свою карту все еще можно в любой момент. Вот инструкция. А вот тут можно в онлайне наблюдать, как разрастается сеть.
Любопытно, что из этого выйдет
group-telegram.com/data_secrets/7230
Create:
Last Update:
Last Update:
Prime Intellect запустили SYNTHETIC-2 – крупнейшую децентрализованную систему инференса в мире
Суть в том, что каждый человек может присоединить свою домашнюю GPU или кластер и стать частью сети планетарного масштаба.
Получается, что незнакомые люди со всего мира могут объединить свои карты и децентрализовано обучать и запускать огромные модели. Децентрализовано – значит, модели контролируют и все, и никто.
Каждая отдельная GPU только получает input от предыдущего узла, что-то считает (в случае инференса один степ forward-pass) и передает дальше. Причем схалтурить не получится – Prime Intellect прикрутили умную систему мониторинга TOPLOC V2. Она не следит за вашей GPU отдельно, но если заметит, что в итоговых общих расчетах что-то идет не так – сможет быстро вычислить виновного.
Глобально – это шаг к открытому AGI. Локально – даже частные исследователи смогут проводить полномасштабные полезные эксперименты + можно собрать кучу хороших данных.
И, что касается данных, результат уже есть. С помощью этой системы собрали огромный открытый датасет для обучения ризонеров. Брали DeepSeek-R1-0528, много раз гоняли распределено и нагенерировали много качественной синтетики. Теперь пользоваться данными могут все (hf).
Подсоединить свою карту все еще можно в любой момент. Вот инструкция. А вот тут можно в онлайне наблюдать, как разрастается сеть.
Любопытно, что из этого выйдет
Суть в том, что каждый человек может присоединить свою домашнюю GPU или кластер и стать частью сети планетарного масштаба.
Получается, что незнакомые люди со всего мира могут объединить свои карты и децентрализовано обучать и запускать огромные модели. Децентрализовано – значит, модели контролируют и все, и никто.
Каждая отдельная GPU только получает input от предыдущего узла, что-то считает (в случае инференса один степ forward-pass) и передает дальше. Причем схалтурить не получится – Prime Intellect прикрутили умную систему мониторинга TOPLOC V2. Она не следит за вашей GPU отдельно, но если заметит, что в итоговых общих расчетах что-то идет не так – сможет быстро вычислить виновного.
Глобально – это шаг к открытому AGI. Локально – даже частные исследователи смогут проводить полномасштабные полезные эксперименты + можно собрать кучу хороших данных.
И, что касается данных, результат уже есть. С помощью этой системы собрали огромный открытый датасет для обучения ризонеров. Брали DeepSeek-R1-0528, много раз гоняли распределено и нагенерировали много качественной синтетики. Теперь пользоваться данными могут все (hf).
Подсоединить свою карту все еще можно в любой момент. Вот инструкция. А вот тут можно в онлайне наблюдать, как разрастается сеть.
Любопытно, что из этого выйдет
BY Data Secrets
Share with your friend now:
group-telegram.com/data_secrets/7230