group-telegram.com/misha_writes_code/226
Last Update:
Забайтился на твит, что по-настоящему умный указатель должен использовать LLM для подсчета ссылок.
В итоге вот скрафтил: https://github.com/lll-phill-lll/actually_smart_pointer
Все выходные ковырялся, но в итоге получилось что-то терпимое.
Сначала пытался ходить по api в deepseek или в chatgpt, но там есть 0 (НОЛЬ!) бесплатных запросов через api. Поэтому второй попыткой я попробовал заюзать модели с huggingface через их api (там есть бесплатные 10$). Но там что-то все очень плохо работало и нормальных моделей доступных по api я не нашел.
Поэтому в итоге остановился на локальной модели. Заюзал llama.cpp и в него запихал deepseek-coder в формате gguf (RIP) вот отсюда. Прикол, что получилось даже просто залинковаться с llama и не использовать cli или сервер.
В результате даже небольшая (4гб диск, 300мб ram) моделька какие-то результаты показывает (хоть и не всегда корректно управляет памятью указателя).
ЗАТО! Я добавил метод ask. И в отличие от других "умных" указателей с моим указателем можно даже пообщаться.
Smart pointer получился на 100% smart и на 0% pointer.
Забавно, кстати, что на запрос написать симфолнию со скрина он вернул код на питоне, который проигрывает аккорд. Так что написал не симфонию, а что-то получше - код симфонии.
BY Миша пишет код
Share with your friend now:
group-telegram.com/misha_writes_code/226