#python#deep_learning#inference#llm#nlp#pytorch#transformer
Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware.
https://github.com/GeeeekExplorer/nano-vllm
Сегодняшнее полнолуние носит поэтическое название Цветочной Луны, потому что обычно (не в этом году, правда) на майские луны приходится пик вегетации. Апрель у меня всегда связан с тревожными желтыми цветами. А вот май - с тревожными синими.
#misc
Тунис, 90е.
Невеста с острова Джерба готовится к местной свадебной церемонии Джелва (фото: Тим Кэролл)
Джелва - древний ритуал, который уходит корнями во времена Карфагена. Невеста как бы принимает в себя богиню Танит (ну, Иштар, по сути), чтобы та благословила ее плодородием и счастьем. Само собой, и значимость, и значение этого ритуала менялось с течением времени , ; особенно- с тех времен, когда тунисцы приняли ислам. Сейчас считается, что Джелва “стоит на 5 колоннах ислама”, и то, как невеста кружится во время ритуала, символизирует кружение мсправоверных мусульман вокруг кааКаабы во время Хаджа. Тем не менее, несмотря на тот смысл, который нес в себе ритуал изначально и какой он несет сейчас, его проводят почти в каждом тунисском городе - от Бизерты (Бинзирт) до Татавина (Татуина, да-да).
#misc