Find similar content

Source channel @githubtrending · Post #15263 · Nov 2

#python#deep_learning#inference#llm#nlp#pytorch#transformer Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware. https://github.com/GeeeekExplorer/nano-vllm

Hashtags

#python #deep_learning #inference #llm #nlp #pytorch #transformer

Results

2 similar posts found

Search: #improv

当前筛选 #improv清除筛选

Masala Quartet

@masalaquartet · Post #219 · 02/20/2026, 09:40 AM

Find similar View

► Petyaev-Petyaev — 10 лет Уже в это воскресенье! Юбилей главных фри-джазовых амбассадоров откроют лучшие представители импров-сцены — задорные The RIG и мелодичные Masala Quartet. Это отличная возможность послушать современный джаз в уютной дружеской атмосфере 🍀 Розыгрыш билетов! 🏆 Количество призов: 4 👁‍🗨 Мероприятие: Petyaev-Petyaev — 10 лет 🎼 Участники: Petyaev-Petyaev ● The RIG ● Masala Quartet 🎨 Манга: Китаев-Китаев 🎲 Условия: быть подписчиком БНИЛ, Petyaev-Petyaev, The RIG и Masala Quartet 📆 Дата розыгрыша: 22.02.2026 09:00 Билеты здесь Скидка для подписчиков: БНИЛ #jazz#freejazz#fusion#improv#nujazz

Hashtags

#jazz #freejazz #fusion #improv #nujazz

Masala Quartet

@masalaquartet · Post #208 · 02/08/2026, 11:49 AM

Find similar View

Москва ● Склад №3 ● 22.02 (Вс) ● 19:00 #jazz#freejazz#improv#experimental#instrumental ► Petyaev-Petyaev — 10 лет ● VK Юбилей главных фри-джазовых амбассадоров откроют лучшие представители импров-сцены — задорные The RIG и мелодичные Masala Quartet. Наш праздник — это отличная возможность послушать современный джаз в уютной дружеской атмосфере Участники: ► Petyaev-Petyaev ● TG ● VK ► The RIG ● TG ● VK ► Masala Quartet ● TG ● VK Билеты от 800₽ Скидка для подписчиков ► INTOTHEVOID

Hashtags

#jazz #freejazz #improv #experimental #instrumental