Telegram Group & Telegram Channel
Media is too big
VIEW IN TELEGRAM
| Как запустить нейронку локально на вашем ПК ?

Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩‍🍳

1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.

2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).

3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).

4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.

Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio], [Jan].

@tips_ai #гайд #tools
Please open Telegram to view this post
VIEW IN TELEGRAM



group-telegram.com/tips_ai/3816
Create:
Last Update:

| Как запустить нейронку локально на вашем ПК ?

Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩‍🍳

1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.

2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).

3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).

4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.

Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio], [Jan].

@tips_ai #гайд #tools

BY Tips AI | IT & AI


Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260

Share with your friend now:
group-telegram.com/tips_ai/3816

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

Given the pro-privacy stance of the platform, it’s taken as a given that it’ll be used for a number of reasons, not all of them good. And Telegram has been attached to a fair few scandals related to terrorism, sexual exploitation and crime. Back in 2015, Vox described Telegram as “ISIS’ app of choice,” saying that the platform’s real use is the ability to use channels to distribute material to large groups at once. Telegram has acted to remove public channels affiliated with terrorism, but Pavel Durov reiterated that he had no business snooping on private conversations. "He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. These entities are reportedly operating nine Telegram channels with more than five million subscribers to whom they were making recommendations on selected listed scrips. Such recommendations induced the investors to deal in the said scrips, thereby creating artificial volume and price rise. The regulator took order for the search and seizure operation from Judge Purushottam B Jadhav, Sebi Special Judge / Additional Sessions Judge. "He has kind of an old-school cyber-libertarian world view where technology is there to set you free," Maréchal said.
from pl


Telegram Tips AI | IT & AI
FROM American