Ребята, кто любит опенсорсные модели на комп устанавливать, очень полезный сайт я обнаружила - GPU Memory Calculator.
Собственно, это калькулятор, который быстро покажет какая видеокарта и сколько видеопамяти понадобятся, чтобы запускать популярные языковые модели локально или на сервере.
🪼Вводите название и параметры LLM-модели, а сервис сразу показывает, хватит ли вашей видеокарты (и какой объём VRAM нужен) для ее запуска.
По сути это «шпаргалка» для разработчиков и владельцев ботов/чат-сервисов. Вместо ручных таблиц и формул достаточно ввести параметры и сразу увидеть, потянет ли ваша видеокарта нужную модель и с какой производительностью.
Ребята, кто любит опенсорсные модели на комп устанавливать, очень полезный сайт я обнаружила - GPU Memory Calculator.
Собственно, это калькулятор, который быстро покажет какая видеокарта и сколько видеопамяти понадобятся, чтобы запускать популярные языковые модели локально или на сервере.
🪼Вводите название и параметры LLM-модели, а сервис сразу показывает, хватит ли вашей видеокарты (и какой объём VRAM нужен) для ее запуска.
По сути это «шпаргалка» для разработчиков и владельцев ботов/чат-сервисов. Вместо ручных таблиц и формул достаточно ввести параметры и сразу увидеть, потянет ли ваша видеокарта нужную модель и с какой производительностью.
Ukrainian President Volodymyr Zelensky said in a video message on Tuesday that Ukrainian forces "destroy the invaders wherever we can." "The inflation fire was already hot and now with war-driven inflation added to the mix, it will grow even hotter, setting off a scramble by the world’s central banks to pull back their stimulus earlier than expected," Chris Rupkey, chief economist at FWDBONDS, wrote in an email. "A spike in inflation rates has preceded economic recessions historically and this time prices have soared to levels that once again pose a threat to growth." He said that since his platform does not have the capacity to check all channels, it may restrict some in Russia and Ukraine "for the duration of the conflict," but then reversed course hours later after many users complained that Telegram was an important source of information. During the operations, Sebi officials seized various records and documents, including 34 mobile phones, six laptops, four desktops, four tablets, two hard drive disks and one pen drive from the custody of these persons. Friday’s performance was part of a larger shift. For the week, the Dow, S&P 500 and Nasdaq fell 2%, 2.9%, and 3.5%, respectively.
from us
