Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩🍳
1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.
2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).
3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).
4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.
Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio],[Jan].
Этот гайд специально для новичков. Если вы уже запускаете LLM у себя на ПК и всё знаете, можете спокойно пролистать этот пост. Но если вы только начинаете и боитесь, что всё это слишком сложно, держите простой и понятный план 👩🍳
1️⃣Установите [Ollama]: это программа, которая помогает запускать языковые модели локально.
2️⃣Найдите подходящую модель на [Hugging Face]: Фильтруйте модели под своё устройство (ноутбук, слабый ПК и т. д.).
3️⃣Выберите квантованную версию [GGUF]: Формат GGUF делает модели меньше и быстрее, без сильных потерь качества. Выбирайте файл на 1–2 ГБ меньше, чем ваша видеопамять (VRAM).
4️⃣На странице модели нажмите «Use This Model»: Скопируйте команду. Откройте терминал, вставьте команду, нажмите Enter. Когда модель загрузится, можете начинать с ней общаться, как с любой другой LLM.
Помимо Ollama, есть и другие программы для запуска llm. Я рекомендую [LM studio],[Jan].
Groups are also not fully encrypted, end-to-end. This includes private groups. Private groups cannot be seen by other Telegram users, but Telegram itself can see the groups and all of the communications that you have in them. All of the same risks and warnings about channels can be applied to groups. Some privacy experts say Telegram is not secure enough "Someone posing as a Ukrainian citizen just joins the chat and starts spreading misinformation, or gathers data, like the location of shelters," Tsekhanovska said, noting how false messages have urged Ukrainians to turn off their phones at a specific time of night, citing cybersafety. This ability to mix the public and the private, as well as the ability to use bots to engage with users has proved to be problematic. In early 2021, a database selling phone numbers pulled from Facebook was selling numbers for $20 per lookup. Similarly, security researchers found a network of deepfake bots on the platform that were generating images of people submitted by users to create non-consensual imagery, some of which involved children. "Your messages about the movement of the enemy through the official chatbot … bring new trophies every day," the government agency tweeted.
from ye
