TGTGInsighttelegram intelligenceLIVE / telegram public index
← GitHub Trends

TGINSIGHT SIMILAR POSTS

Find similar content

Source channel @githubtrending · Post #15348 · Dec 20

#go#gemma3#go#gpt_oss#granite4#llama#llama3#llm#on_device_ai#phi3#qwen3#qwen3vl#sdk#stable_diffusion#vlm NexaSDK runs AI models locally on CPUs, GPUs, and NPUs with a single command, supports GGUF/MLX/.nexa formats, and offers NPU-first Android and macOS support for fast, multimodal (text, image, audio) inference, plus an OpenAI‑compatible API for easy integration. This gives you low-latency, private on-device AI across laptops, phones, and embedded systems, reduces cloud costs and data exposure, and lets you deploy and test new models immediately on target hardware for faster development and better user experience. https://github.com/NexaAI/nexa-sdk

Results

2 similar posts found

Search: #jan

当前筛选 #jan清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8255 · 08/12/2025, 02:32 PM

🚀Jan-v1: локальная 4B-модель для веба — опенсорсная альтернатива Perplexity Pro 📌Что умеет - SimpleQA: 91% точности, чуть выше Perplexity Pro — и всё это полностью локально. - Сценарии: быстрый веб-поиск и глубокое исследование (Deep Research). Из чего сделана - Базируется на Qwen3-4B-Thinking (контекст до 256k), дообучена в Jan на рассуждение и работу с инструментами. Где запускать - Jan, llama.cpp или vLLM. Как включить поиск в Jan - Settings → Experimental Features → On - Settings → MCP Servers → включите поисковый MCP (например, Serper) Модели - Jan-v1-4B: https://huggingface.co/janhq/Jan-v1-4B - Jan-v1-4B-GGUF: https://huggingface.co/janhq/Jan-v1-4B-GGUF @ai_machinelearning_big_data #ai#ml#local#Qwen#Jan