#cplusplus
ik_llama.cpp is an improved version of llama.cpp that runs faster on CPUs and hybrid GPU/CPU setups. It supports many new advanced quantization methods, which help models use less memory and run more efficiently. It also offers better performance for special models like DeepSeek and MoE, with faster prompt processing and token generation. You can run it on various hardware, including Android, and it has features to control where model data is stored (CPU or GPU). This means you get quicker AI responses and can handle bigger or more complex models smoothly on your computer or device[2][1][4].
https://github.com/ikawrakow/ik_llama.cpp
Есть среди наших подписчиков у кого уже есть мини #applebox? Когда то делал именные, их всего было 5-6 шт. В этот раз сделал 50 шт, в прошлый было 40))) если кому надо обращайтесь, есть ещё, отправлю куда угодно писать в телегу мне @fidller
Принял для себя очень важное решение. Ни для кого не секрет, что я совместно с сайтом fidller.com стал лидером в ЮФО по производству #applebox и наши подставки сейчас это самое доступное решение в мире, также моя статья была первой русско-язычной в рунете о #appleboxset (спасибо коллегам за это).
Поэтому, начиная с этого дня я буду называть эпл боксы - #arbat пришло время что то менять в индустрии!
Почему #arbat ну тут все логично и следите за публикациями, этому будет посвящена статья. эпл бокс нужно заказывать на сайте или написав мне в личку, сайт работает по программе "100% клиентоорентированность" доставка по всему миру (включая Крым)
https://fidller.com/komplekt-apple-box-4-sht/