#python#deep_learning#inference#llm#nlp#pytorch#transformer
Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware.
https://github.com/GeeeekExplorer/nano-vllm
#унас#итоги24#NF
Вчера, 20 ноября, по приглашению NF Group побывала на мероприятии «Предварительные итоги 2024 года на рынке недвижимости»
⚙️Формат: аналитика итогов 24 года по всем сегментам, комментарии руководителей бизнес-линий в формате «поясняю слайды» и очень аккуратные прогнозы на 2025.
Модерировала действо лично 👧🏻Ольга Широкова, партнер и руководитель департамента консалтинга и исследований
Сначала обсуждали жилую недвижимость: элитную, новостройки, загородную и зарубежную.
Затем — все секторы CRE.
Сперва 👦🏻Станислав Бибик, партнер NF рассказал про инвестиции, а потом подключились руководители направлений: склады, офисы, ТЦ и стриты.
Чуть позже опубликую тезисы выступления Евгении Хакбердиевой «про ТЦ». Всё-таки родная моя тема.
Все, что рассказывали и показывали — в презентации в одном файле
И «про жилье» тоже есть
👇