Ребята, кто любит опенсорсные модели на комп устанавливать, очень полезный сайт я обнаружила - GPU Memory Calculator.
Собственно, это калькулятор, который быстро покажет какая видеокарта и сколько видеопамяти понадобятся, чтобы запускать популярные языковые модели локально или на сервере.
🪼Вводите название и параметры LLM-модели, а сервис сразу показывает, хватит ли вашей видеокарты (и какой объём VRAM нужен) для ее запуска.
По сути это «шпаргалка» для разработчиков и владельцев ботов/чат-сервисов. Вместо ручных таблиц и формул достаточно ввести параметры и сразу увидеть, потянет ли ваша видеокарта нужную модель и с какой производительностью.
Ребята, кто любит опенсорсные модели на комп устанавливать, очень полезный сайт я обнаружила - GPU Memory Calculator.
Собственно, это калькулятор, который быстро покажет какая видеокарта и сколько видеопамяти понадобятся, чтобы запускать популярные языковые модели локально или на сервере.
🪼Вводите название и параметры LLM-модели, а сервис сразу показывает, хватит ли вашей видеокарты (и какой объём VRAM нужен) для ее запуска.
По сути это «шпаргалка» для разработчиков и владельцев ботов/чат-сервисов. Вместо ручных таблиц и формул достаточно ввести параметры и сразу увидеть, потянет ли ваша видеокарта нужную модель и с какой производительностью.
"Like the bombing of the maternity ward in Mariupol," he said, "Even before it hits the news, you see the videos on the Telegram channels." The Securities and Exchange Board of India (Sebi) had carried out a similar exercise in 2017 in a matter related to circulation of messages through WhatsApp. These entities are reportedly operating nine Telegram channels with more than five million subscribers to whom they were making recommendations on selected listed scrips. Such recommendations induced the investors to deal in the said scrips, thereby creating artificial volume and price rise. Right now the digital security needs of Russians and Ukrainians are very different, and they lead to very different caveats about how to mitigate the risks associated with using Telegram. For Ukrainians in Ukraine, whose physical safety is at risk because they are in a war zone, digital security is probably not their highest priority. They may value access to news and communication with their loved ones over making sure that all of their communications are encrypted in such a manner that they are indecipherable to Telegram, its employees, or governments with court orders. Artem Kliuchnikov and his family fled Ukraine just days before the Russian invasion.
from ua
