#cplusplus
ik_llama.cpp is an improved version of llama.cpp that runs faster on CPUs and hybrid GPU/CPU setups. It supports many new advanced quantization methods, which help models use less memory and run more efficiently. It also offers better performance for special models like DeepSeek and MoE, with faster prompt processing and token generation. You can run it on various hardware, including Android, and it has features to control where model data is stored (CPU or GPU). This means you get quicker AI responses and can handle bigger or more complex models smoothly on your computer or device[2][1][4].
https://github.com/ikawrakow/ik_llama.cpp
Я тебя вижу)
Часто заглядываю в профили комментаторов — интересно, чем они занимаются, может, у кого блог найдётся.
Наткнулся на канал Никиты: у него пост про диктора, который оказался совсем не тем, кем кажется (да тут про Ии) и он показался мне интересным. Там и про интересные трансформации рынка и про смекалистость людей) Подробности читай тут, чтобы не пересказывать и не красть контент у своих же. Канал небольшой, но с потенциалом. Зацени.
А ещё, чувак работает в digital-продакшене (Режиссер монтажа, моушен-дизайнер и переводчик). Если ты заказчик — тоже welcome, вдруг сойдётесь.
Пост про диктора
Сам Никита
😂 А если Никита это читает — пости чаще и не сдавайся! Ветер поднялся, пора грести!
#subs| AcidCrunch