TGTGInsightаналитика telegramLIVE / telegram public index
Содержимое поста
Содержимое
🎉 Qwen3-VL теперь работает в llama.cpp! Модель можно запускать прямо на своём устройстве - поддерживаются CPU, CUDA, Metal, Vulkan и другие бэкенды. Доступны GGUF-веса для всех версий - от 2B до 235B. Можно запускать локально, без облака и сторонних сервисов 🚀 🤗 Hugging Face: https://huggingface.co/collections/Qwen/qwen3-vl 🤖ModelScope: https://modelscope.cn/collections/Qwen3-VL-5c7a94c8cb144b 📌PR: https://github.com/ggerganov/llama.cpp/pull/16780 @ai_machinelearning_big_data #Qwen3#llm