#python#deep_learning#inference#llm#nlp#pytorch#transformer
Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware.
https://github.com/GeeeekExplorer/nano-vllm
Год назад одно казахстанское интернет-издание выпустило материал с конкретным заголовком: "Строительство АЭС в Казахстане: как вывести из игры "Росатом"? Подобных материалов про американских, французских и прочих подрядчиков до сих пор нет. Что уже наводит на подозрения разного рода. Например, кому-то очень нужно, чтобы АЭС не строил "Росатом".
Но кому? Чтобы ответить на этот вопрос, вспомним недавнее прошлое. В 2017 году японская компания Toshiba купила одного из главных конкурентов "Росатома" - обанкротившуюся американскую компанию Westinghouse Electric. Японской компанией WE была недолго: в апреле 2018 года ее выкупил холдинг из Канады Brookfield Business Partners (BBP).
Теперь конкурентом российских атомщиков является "дочка" BBP — компания Brookfield Infrastructure (BI). Другой главный конкурент "Росатома" - французская компания Orano (бывшая Areva).
В том же 2018 году произошла еще одна любопытная сделка.
Подробности на сайте cronos.asia
#АЭС
#Росатом
#BBP
#Казахстан