Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.
Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…
Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.
Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.
Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.
Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.
Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…
Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.
Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.
Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.
Some privacy experts say Telegram is not secure enough "There is a significant risk of insider threat or hacking of Telegram systems that could expose all of these chats to the Russian government," said Eva Galperin with the Electronic Frontier Foundation, which has called for Telegram to improve its privacy practices. Lastly, the web previews of t.me links have been given a new look, adding chat backgrounds and design elements from the fully-features Telegram Web client. And while money initially moved into stocks in the morning, capital moved out of safe-haven assets. The price of the 10-year Treasury note fell Friday, sending its yield up to 2% from a March closing low of 1.73%. On Feb. 27, however, he admitted from his Russian-language account that "Telegram channels are increasingly becoming a source of unverified information related to Ukrainian events."
from cn
