Warning: mkdir(): No space left on device in /var/www/group-telegram/post.php on line 37

Warning: file_put_contents(aCache/aDaily/post/tips_ai/--): Failed to open stream: No such file or directory in /var/www/group-telegram/post.php on line 50
Tips AI | IT & AI | Telegram Webview: tips_ai/3816 -
Telegram Group & Telegram Channel
Media is too big
VIEW IN TELEGRAM
| Как запустить нейронку локально на вашем ПК ?

Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩‍🍳

1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.

2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).

3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).

4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.

Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio], [Jan].

@tips_ai #гайд #tools
Please open Telegram to view this post
VIEW IN TELEGRAM



group-telegram.com/tips_ai/3816
Create:
Last Update:

| Как запустить нейронку локально на вашем ПК ?

Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩‍🍳

1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.

2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).

3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).

4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.

Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio], [Jan].

@tips_ai #гайд #tools

BY Tips AI | IT & AI


Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260

Share with your friend now:
group-telegram.com/tips_ai/3816

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

In this regard, Sebi collaborated with the Telecom Regulatory Authority of India (TRAI) to reduce the vulnerability of the securities market to manipulation through misuse of mass communication medium like bulk SMS. Now safely in France with his spouse and three of his children, Kliuchnikov scrolls through Telegram to learn about the devastation happening in his home country. Artem Kliuchnikov and his family fled Ukraine just days before the Russian invasion. Emerson Brooking, a disinformation expert at the Atlantic Council's Digital Forensic Research Lab, said: "Back in the Wild West period of content moderation, like 2014 or 2015, maybe they could have gotten away with it, but it stands in marked contrast with how other companies run themselves today." "There are a lot of things that Telegram could have been doing this whole time. And they know exactly what they are and they've chosen not to do them. That's why I don't trust them," she said.
from ye


Telegram Tips AI | IT & AI
FROM American