Миша пишет код

Забайтился на твит, что по-настоящему умный указатель должен использовать LLM для подсчета ссылок.

В итоге вот скрафтил: https://github.com/lll-phill-lll/actually_smart_pointer

Все выходные ковырялся, но в итоге получилось что-то терпимое.

Сначала пытался ходить по api в deepseek или в chatgpt, но там есть 0 (НОЛЬ!) бесплатных запросов через api. Поэтому второй попыткой я попробовал заюзать модели с huggingface через их api (там есть бесплатные 10$). Но там что-то все очень плохо работало и нормальных моделей доступных по api я не нашел.

Поэтому в итоге остановился на локальной модели. Заюзал llama.cpp и в него запихал deepseek-coder в формате gguf (RIP) вот отсюда. Прикол, что получилось даже просто залинковаться с llama и не использовать cli или сервер.

В результате даже небольшая (4гб диск, 300мб ram) моделька какие-то результаты показывает (хоть и не всегда корректно управляет памятью указателя).

ЗАТО! Я добавил метод ask. И в отличие от других "умных" указателей с моим указателем можно даже пообщаться.

Smart pointer получился на 100% smart и на 0% pointer.

Забавно, кстати, что на запрос написать симфолнию со скрина он вернул код на питоне, который проигрывает аккорд. Так что написал не симфонию, а что-то получше - код симфонии.

www.group-telegram.com/ye/misha_writes_code.com/226

501 viewsedited  Mar 30 at 15:44

Забайтился на твит, что по-настоящему умный указатель должен использовать LLM для подсчета ссылок.

В итоге вот скрафтил: https://github.com/lll-phill-lll/actually_smart_pointer

Все выходные ковырялся, но в итоге получилось что-то терпимое.

Сначала пытался ходить по api в deepseek или в chatgpt, но там есть 0 (НОЛЬ!) бесплатных запросов через api. Поэтому второй попыткой я попробовал заюзать модели с huggingface через их api (там есть бесплатные 10$). Но там что-то все очень плохо работало и нормальных моделей доступных по api я не нашел.

Поэтому в итоге остановился на локальной модели. Заюзал llama.cpp и в него запихал deepseek-coder в формате gguf (RIP) вот отсюда. Прикол, что получилось даже просто залинковаться с llama и не использовать cli или сервер.

В результате даже небольшая (4гб диск, 300мб ram) моделька какие-то результаты показывает (хоть и не всегда корректно управляет памятью указателя).

ЗАТО! Я добавил метод ask. И в отличие от других "умных" указателей с моим указателем можно даже пообщаться.

Smart pointer получился на 100% smart и на 0% pointer.

Забавно, кстати, что на запрос написать симфолнию со скрина он вернул код на питоне, который проигрывает аккорд. Так что написал не симфонию, а что-то получше - код симфонии.

BY Миша пишет код