Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.
Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…
Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.
Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.
Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.
Я искал причину обновить свой макбук и решил запустить какую-нибудь LLMку. Благо Гемма вышла вчера.
Качаю квантованные веса. Открываю activity monitor. Открываю ollama. Открываю сайт apple с макбуками. И…
Модель из LMSYS лидерборда запустилась на совершенно скромном macbook air M1 16Gb 5-летней давности! И даже ещё хватило памяти на пару вкладок в хроме.
Если приглядеться на скриншот, можно заметить что вся нагрузка на видеокарте. В пике всего 10W. Процессор отдыхает.
Говорит мне это о том что все эти модельки переедут на устройства уже очень скоро.
Again, in contrast to Facebook, Google and Twitter, Telegram's founder Pavel Durov runs his company in relative secrecy from Dubai. In 2014, Pavel Durov fled the country after allies of the Kremlin took control of the social networking site most know just as VK. Russia's intelligence agency had asked Durov to turn over the data of anti-Kremlin protesters. Durov refused to do so. The S&P 500 fell 1.3% to 4,204.36, and the Dow Jones Industrial Average was down 0.7% to 32,943.33. The Dow posted a fifth straight weekly loss — its longest losing streak since 2019. The Nasdaq Composite tumbled 2.2% to 12,843.81. Though all three indexes opened in the green, stocks took a turn after a new report showed U.S. consumer sentiment deteriorated more than expected in early March as consumers' inflation expectations soared to the highest since 1981. On December 23rd, 2020, Pavel Durov posted to his channel that the company would need to start generating revenue. In early 2021, he added that any advertising on the platform would not use user data for targeting, and that it would be focused on “large one-to-many channels.” He pledged that ads would be “non-intrusive” and that most users would simply not notice any change. Markets continued to grapple with the economic and corporate earnings implications relating to the Russia-Ukraine conflict. “We have a ton of uncertainty right now,” said Stephanie Link, chief investment strategist and portfolio manager at Hightower Advisors. “We’re dealing with a war, we’re dealing with inflation. We don’t know what it means to earnings.”
from jp
