#python#deep_learning#inference#llm#nlp#pytorch#transformer
Nano-vLLM is a small, fast, and easy-to-understand tool for running large language models offline. It matches the speed of bigger systems like vLLM but uses only about 1,200 lines of clean Python code, making it simple to read and modify. It includes smart features like prefix caching and tensor parallelism to boost performance. You can install it easily and run models like Qwen3-0.6B on your own GPU. This tool is great if you want fast, efficient AI inference without complex setups, ideal for learning, research, or small deployments on limited hardware.
https://github.com/GeeeekExplorer/nano-vllm
Croc
Easily and securely send things from one computer to another
Features
- allows any two computers to transfer data (using a relay)
- provides end-to-end encryption (using PAKE)
- enables easy cross-platform transfers (Windows, Linux, Mac, Android)
- allows multiple file transfers
- local server or port-forwarding not needed
- ipv6-first with ipv4 fallback
https://github.com/schollz/croc
https://f-droid.org/en/packages/com.github.howeyc.crocgui/
📡@NoGoolag📡@Libreware
#croc#transfer#send#share
Alt-sendme — send files and folders to anywhere in the world without storing them in the cloud — any size, any format, without accounts and restrictions.
A free file transfer tool with open source code, using the capabilities of an advanced peer-to-peer network, allowing you to transfer files directly without storing them on cloud servers.
@github
#P2P#FileTransfer#share#send#transfer
@etlgr_bot
Qué puede hacer este bot?
Obtén una dirección de correo para cualquier Chat de Telegram (grupo o usuario).
Enviar y recibir correos.
Idioma: Inglés
(visto en @BotsGram_cu)
#send, #mail, #email, #address, #welcome
@Shekelbot
Qué puede hacer este bot?
ShekelBot le ayudará a contar su dinero. Úselo, cuando le das dinero a alguien, o comparte compras.
Idioma: Inglés
(visto en @BotsGram_cu)
#money, #track, #send, #receive, #friends, #debt
@posttobot
Qué puede hacer este bot?
Este bot le ayuda a enviar un mensaje a alguien en Telegram Messenger sin usar Telegram a través de este Bot conectado con una aplicación web.
Idioma: Inglés, Ruso
(visto en @BotsGram_cu)
#web, #pc, #remote, #telegram, #message, #text, #send, #post, #bot, #dictionary
@DebtsTrackerBot
Qué puede hacer este bot?
Este bot realiza un seguimiento de sus deudas y envía recordatorios a usted y a los deudores por Telegram y SMS.
Idioma: Español, Inglés, Ruso, Italiano
(visto en @BotsGram_cu)
#friend, #money, #track, #debt, #send, #receive, #issue, #website, #request