HF kernels hub

кернел это такой кусок кода встраивыаемый в вычислительный граф и описыващий какие то спецефичные по памяти/последовательности вычислений операции которые за счет последовательности прям сильно быстрее работают(flash attn как хороший пример)

HF выпускают библеотеку кернелов, чтобы не таскать из vllm в sglang и обратно кернелы, а просто делать

import torch
import torch.nn.functional as F
from kernels import get_kernel

DEVICE = "cuda"


activation_kernels = get_kernel("kernels-community/activation")
x = torch.randn((4, 4), dtype=torch.float16, device=DEVICE)

# Prepare an output tensor
y = torch.empty_like(x)

# Run the fast GELU kernel
activation_kernels.gelu_fast(y, x)

# Get expected output using PyTorch's built-in GELU
expected = F.gelu(x)

ВСЕ, ускоряем почти любой кусок графа в несколько раз бесплатно!

link

dark fantasy топ мэнджеров в том чтобы уволить 70% штата заменив на агентов-индусов-аутсорс в восточной европе, главное верить, щаща в индии обуичим агентов разработку

знаешь анекдот про быстрого ганзалеса?

openaifiles.org очень забавный сборник про то какие опенаи плохие

https://www.midjourney.com/updates/introducing-our-v1-video-model

Лучше ли чем veo3? Скорее нет. Лучше ли чем соседи в виде huynyan и прочих? Скорее да.

Одного чела для меты купили в 6 раз дороже чем вся АИ индустрия в России. Думайте.

я очень часто рекомендую runpod в разных чатах, интересно а сколько людей заюзает рефер и пополнит на 10usd?
link

как же хочется взять флиппер засунуть в теслу чью нибудь

Чтож ты вьешься надо мною дорогой ты мой тимлид
Я все к пятнице закрою

Magenta RT: Streaming music generation

Гугл выпускает стриминговую токенную модель для продолжения аудио в заданном стиле, можно с помощью текстовых эмбедингов контролировать стиль продолжения.

Из интересного: это encdec трансформер, на входе CLAP(clip для аудио ) + musiccoca (по сути мулан) , и генерируют Soundstream - нейрокодек, 48кгц, дискретные токены по середине. Короче довольно стандартная история.

Из плюсов:
Можно игратся вообще с любыми текстовыми промптами, это работает в риалтайме и ощущается ОЧЕНЬ весело, крутишь один промпт и у тебя фонк играет, крутишь другую - рок

Из минусов:
tf-nightly==2.20.0.dev20250619 оно все в Tf+jax и естественно чтобы офицальный коллаб заработал надо залезть в issues и найти фикс.... so 2021 короче.



а еще оч прикольная штука с крутилками
yt demo