Telegram Group & Telegram Channel
Media is too big
VIEW IN TELEGRAM
| Как запустить нейронку локально на вашем ПК ?

Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩‍🍳

1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.

2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).

3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).

4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.

Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio], [Jan].

@tips_ai #гайд #tools
Please open Telegram to view this post
VIEW IN TELEGRAM



group-telegram.com/tips_ai/3816
Create:
Last Update:

| Как запустить нейронку локально на вашем ПК ?

Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩‍🍳

1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.

2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).

3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).

4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.

Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio], [Jan].

@tips_ai #гайд #tools

BY Tips AI | IT & AI


Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260

Share with your friend now:
group-telegram.com/tips_ai/3816

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

But the Ukraine Crisis Media Center's Tsekhanovska points out that communications are often down in zones most affected by the war, making this sort of cross-referencing a luxury many cannot afford. DFR Lab sent the image through Microsoft Azure's Face Verification program and found that it was "highly unlikely" that the person in the second photo was the same as the first woman. The fact-checker Logically AI also found the claim to be false. The woman, Olena Kurilo, was also captured in a video after the airstrike and shown to have the injuries. The original Telegram channel has expanded into a web of accounts for different locations, including specific pages made for individual Russian cities. There's also an English-language website, which states it is owned by the people who run the Telegram channels. In 2014, Pavel Durov fled the country after allies of the Kremlin took control of the social networking site most know just as VK. Russia's intelligence agency had asked Durov to turn over the data of anti-Kremlin protesters. Durov refused to do so.
from br


Telegram Tips AI | IT & AI
FROM American