#python#deep_learning#inference#llm#nlp#pytorch#transformer
Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware.
https://github.com/GeeeekExplorer/nano-vllm
⚙️🩷 Устала рисовать работу и переключилась на картинку для себя (да, художники так делают, отдыхают от рисования, рисуя 🤷🏼♀️).
Домучиваю этот ваш Аркейн, добралась до 2го сезона, вроде наконец пошло полегче и с интересом. Сквозь начало продиралась с большим трудом, недоумевая откуда столько восторгов, я же себе чуть челюсть зевотой не вывихнула.. Но возможно это потому, что у меня сейчас менталОчка в режиме апатичного говна и вообще ничего особо заходит.
Маленькую Паудер нахожу невероятно бесечей и вызывающей ноль сочувствия, настолько, что её взрослый образ лишён всякого очарования, при всей моей нежной любви к ебанашкам.
А вот Вай - охуенная! Как говорится: I really need such a woman in my life. Нет серьёзно, я кажется влюбилась. Скажите мне, что у них с Кексиком всё будет хорошо!? Хотя ничего не говорите - в пекло спойлеры.
#Vi#Arcane#скетч
💕🤛🏻🧁 Do you wanna come play?
Как я начинала рисовать Вай пока смотрела 1й сезон и как закончила, досмотрев 2й..
Если чо, это Джинкс отобрала у меня руль от головного мозга вместе с планшетом, я как будто бы не причём🃏
#Vi#Arcane#Вай#fanart