Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.
Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…
Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.
Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.
Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.
Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.
Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…
Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.
Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.
Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.
"Markets were cheering this economic recovery and return to strong economic growth, but the cheers will turn to tears if the inflation outbreak pushes businesses and consumers to the brink of recession," he added. The last couple days have exemplified that uncertainty. On Thursday, news emerged that talks in Turkey between the Russia and Ukraine yielded no positive result. But on Friday, Reuters reported that Russian President Vladimir Putin said there had been some “positive shifts” in talks between the two sides. Pavel Durov, a billionaire who embraces an all-black wardrobe and is often compared to the character Neo from "the Matrix," funds Telegram through his personal wealth and debt financing. And despite being one of the world's most popular tech companies, Telegram reportedly has only about 30 employees who defer to Durov for most major decisions about the platform. Crude oil prices edged higher after tumbling on Thursday, when U.S. West Texas intermediate slid back below $110 per barrel after topping as much as $130 a barrel in recent sessions. Still, gas prices at the pump rose to fresh highs. Right now the digital security needs of Russians and Ukrainians are very different, and they lead to very different caveats about how to mitigate the risks associated with using Telegram. For Ukrainians in Ukraine, whose physical safety is at risk because they are in a war zone, digital security is probably not their highest priority. They may value access to news and communication with their loved ones over making sure that all of their communications are encrypted in such a manner that they are indecipherable to Telegram, its employees, or governments with court orders.
from ca
