TGTGInsighttelegram intelligenceLIVE / telegram public index
← GitHub Trends

TGINSIGHT SIMILAR POSTS

Find similar content

Source channel @githubtrending · Post #15263 · Nov 2

#python#deep_learning#inference#llm#nlp#pytorch#transformer Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware. https://github.com/GeeeekExplorer/nano-vllm

Results

1 similar post found

Search: #releaseengineer

当前筛选 #releaseengineer清除筛选
Data Science Jobs

@datasciencejobs · Post #3122 · 02/02/2026, 06:18 PM

#релизинженер#релизинженервакансия#MLOps#DevOps#ReleaseEngineer ❇️Релиз-инженер с функцией MLOps Senior ❇️| Компания Top Selection 🔥 Мы в поиске Релиз-инженера с функцией MLOps на проектную занятость Грейд: Senior Ставка: от 288К до 315К Гражданство/Локация: РФ Загрузка: фуллтайм Срок: долгосрочный Оформление: только ИП ‼️ Описание: Мы создаём интеллектуальную ML - систему прогнозирования спроса, которая учитывает сезонность, промо, макро- и микроэкономические факторы, поведение клиентов и ограничения логистики. Наш стек: GitHub/Gitlab, Jfrog Artifactory, SonarQube, Jenkins/GitlabCI , ArgoCD, Helm, Hashicorp Vault, OpenTelemetry, Grafana, Grafana Tempo, Mimir, Prometheus, Apache Spark, k8s 📝 Задачи: * Облегчение и ускорение труда разработчиков * Создание CI/CD пайпланов. * Помощь в контейнеризации приложений, подготовке к доставке и развертыванию. * Техническая консультация. * Помощь в настройке централизованной среды разработки * Управление релизным процессом, проведение, сопровождение релизов. * Заведение RFC * Проведение релизов * Контроль работоспособности систем до, во время и после релизов. * Актуализация технической документации. * Управление инфраструктурой * Поддержание работоспособности инфраструктурных сервисов. * Настройка мониторинга сервисов. * Контроль за утилизацией ресурсов, повышение оптимальности их использования. * Своевременное обновление сервисов и зависимостей. * Своевременное устранение обнаруженных уязвимостей в исходном коде и подкотрольных сервисах. ✅Требования к кандидату (+/-): - Не менее 4 лет в роли DevOps/Release Engineer или аналогичной, с фокусом на CI/CD и релизный процесс. - Опыт работы в проектах с ML-моделями. СУспешное проведение релизов в production-средах, включая управление RFC и контроль работоспособности систем до/во время/после релизов. ✅Технические навыки и обязанности: - CI/CD и релизный менеджмент: Создание и поддержка пайплайнов в Jenkins/GitLab CI; управление релизным процессом с ArgoCD и Helm; контейнеризация приложений (Docker/Kubernetes). - Инфраструктура как код: Работа с Kubernetes (k8s), HashiCorp Vault для секретов; настройка и поддержка инфраструктуры. - Мониторинг и observability: OpenTelemetry, Grafana (Tempo, Mimir), Prometheus; контроль утилизации ресурсов, выявление уязвимостей (SonarQube). - Артефакты и репозитории: GitHub/GitLab, JFrog Artifactory. - MLOps-специфика: Опыт с Apache Spark для ML-workloads; автоматизация развертывания ML-моделей, интеграция с ML-пайплайнами. - Дополнительно: Актуализация документации, технические консультации для разработчиков, настройка централизованной dev-среды, устранение уязвимостей и обновление зависимостей. ✅Стек технологий (обязательный опыт): - GitHub/GitLab, JFrog Artifactory, SonarQube, Jenkins/GitLab CI. - ArgoCD, Helm, HashiCorp Vault. - OpenTelemetry, Grafana, Grafana Tempo, Mimir, Prometheus. - Apache Spark, Kubernetes (k8s). По всем вопросам и с резюме пишите @aliiS_a