TGTGInsighttelegram intelligenceLIVE / telegram public index
← GitHub Trends

TGINSIGHT SIMILAR POSTS

Find similar content

Source channel @githubtrending · Post #15554 · Mar 12

#cplusplus LiteRT is Google's free framework for running fast machine learning and generative AI on phones, computers, and web without cloud help. It uses GPU and NPU for up to 2x speed boosts, zero-copy data handling, and async execution on Android, iOS, Linux, and more, plus easy PyTorch model conversion. You benefit by building quick, private apps like real-time image editing or chatbots that work offline on everyday devices, saving battery and boosting performance. https://github.com/google-ai-edge/LiteRT

Hashtags

Results

2 similar posts found

Search: #jan

当前筛选 #jan清除筛选
Machinelearning

@ai_machinelearning_big_data · Post #8255 · 08/12/2025, 02:32 PM

🚀Jan-v1: локальная 4B-модель для веба — опенсорсная альтернатива Perplexity Pro 📌Что умеет - SimpleQA: 91% точности, чуть выше Perplexity Pro — и всё это полностью локально. - Сценарии: быстрый веб-поиск и глубокое исследование (Deep Research). Из чего сделана - Базируется на Qwen3-4B-Thinking (контекст до 256k), дообучена в Jan на рассуждение и работу с инструментами. Где запускать - Jan, llama.cpp или vLLM. Как включить поиск в Jan - Settings → Experimental Features → On - Settings → MCP Servers → включите поисковый MCP (например, Serper) Модели - Jan-v1-4B: https://huggingface.co/janhq/Jan-v1-4B - Jan-v1-4B-GGUF: https://huggingface.co/janhq/Jan-v1-4B-GGUF @ai_machinelearning_big_data #ai#ml#local#Qwen#Jan