TGTGInsighttelegram intelligenceLIVE / telegram public index
← GitHub Trends

TGINSIGHT SIMILAR POSTS

Find similar content

Source channel @githubtrending · Post #15263 · Nov 2

#python#deep_learning#inference#llm#nlp#pytorch#transformer Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware. https://github.com/GeeeekExplorer/nano-vllm

Results

1 similar post found

Search: #middli

当前筛选 #middli清除筛选
Data Science Jobs

@datasciencejobs · Post #1320 · 02/14/2023, 07:25 AM

#вакансия#OpenCV#middli#senior#удаленнаяработа#job#спб#проекты Программист, OpenCV специалист ABN Software Inc - Американская IT-компания, разработчик популярных веб-серверных продуктов ищет в команду специалиста по компьютерному зрению. Мы занимаемся разработкой программного обеспечения на заказ с 2009 года. Сотрудничаем с бизнес проектами и компаниями по Чарлидингу в США, благотворительными фондами и др. Мы создаем, дорабатываем продукт, решающий комплексные задачи конкретных пользователей и коллективов. Какие у нас требования к кандидатам: • Умение и желание писать красивый код; • Хорошее знание • Опыт работы с OpenCV • Готовность к взаимодействию с коллегами при разработке; • Желание работать как над краткосрочными, так и долгосрочными проектами; • Написание unit-тестов; • Внимание к деталям и высокая степень самостоятельности. С# или С++ будет вашим преимуществом. Обязанности: • Доработка существующего кода; • Участие в интеграционном тестировании. Что мы предлагаем: • Гибкий/свободный график, полностью удаленная работа; • Возможна проектная занятость; • Интересные задания; • Сдельная заработная плата, обсуждается на собеседовании. Вилка: от 1000 до 2500 $ за проект. Контакты: @Kler3l