Ребята, кто любит опенсорсные модели на комп устанавливать, очень полезный сайт я обнаружила - GPU Memory Calculator.
Собственно, это калькулятор, который быстро покажет какая видеокарта и сколько видеопамяти понадобятся, чтобы запускать популярные языковые модели локально или на сервере.
🪼Вводите название и параметры LLM-модели, а сервис сразу показывает, хватит ли вашей видеокарты (и какой объём VRAM нужен) для ее запуска.
По сути это «шпаргалка» для разработчиков и владельцев ботов/чат-сервисов. Вместо ручных таблиц и формул достаточно ввести параметры и сразу увидеть, потянет ли ваша видеокарта нужную модель и с какой производительностью.
Ребята, кто любит опенсорсные модели на комп устанавливать, очень полезный сайт я обнаружила - GPU Memory Calculator.
Собственно, это калькулятор, который быстро покажет какая видеокарта и сколько видеопамяти понадобятся, чтобы запускать популярные языковые модели локально или на сервере.
🪼Вводите название и параметры LLM-модели, а сервис сразу показывает, хватит ли вашей видеокарты (и какой объём VRAM нужен) для ее запуска.
По сути это «шпаргалка» для разработчиков и владельцев ботов/чат-сервисов. Вместо ручных таблиц и формул достаточно ввести параметры и сразу увидеть, потянет ли ваша видеокарта нужную модель и с какой производительностью.
Apparently upbeat developments in Russia's discussions with Ukraine helped at least temporarily send investors back into risk assets. Russian President Vladimir Putin said during a meeting with his Belarusian counterpart Alexander Lukashenko that there were "certain positive developments" occurring in the talks with Ukraine, according to a transcript of their meeting. Putin added that discussions were happening "almost on a daily basis." Although some channels have been removed, the curation process is considered opaque and insufficient by analysts. Telegram Messenger Blocks Navalny Bot During Russian Election In the past, it was noticed that through bulk SMSes, investors were induced to invest in or purchase the stocks of certain listed companies. Update March 8, 2022: EFF has clarified that Channels and Groups are not fully encrypted, end-to-end, updated our post to link to Telegram’s FAQ for Cloud and Secret chats, updated to clarify that auto-delete is available for group and channel admins, and added some additional links.
from ms
