Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
¿Que puede hacer este bot?
@MusicBestRobot_bot
Bot para buscar, descargar y guardar música.
Para buscar, debe ingresar el nombre de la canción o artista y el bot encontrará la pista por usted, para guardar su pista, simplemente envíela al bot y agréguela a su lista de reproducción.
Idiomas: inglés, ruso
(Visto en @botsgram_cu)
#música#descargas
¿Que puede hacer este bot?
@XFiles2LinkBot
Este bot ofrece enlaces de descarga para archivos de telegram
Idiomas: inglés
(Visto en @botsgram_cu)
#enlaces#descargas
¿Que puede hacer este bot?
@Utube_downloadbot
Puede descargar cualquier video individual de YouTube (no listas de reproducción) gratis. Simplemente envíe la URL de cualquier video de YouTube.
Idioma: inglés
(Visto en @botsgram_cu)
#youtube#descargas
¿Que puede hacer este bot?
@descargandomusica_Bot
La funcion de este bot es buscar la cancion que le solicitas y luego te la envia, funciona con una Amplia base de datos, también descarga de YouTube a través de enlaces
Idioma: español
(Visto en @botsgram_cu)
#música#descargas#youtube
¿Que puede hacer este bot?
@JustYoutubeMusicBot
¡Puede descargar música de YouTube / YouTube Music con diferentes calidades compatibles! 🎧
Idioma: inglés
(Visto en @botsgram_cu)
#música#youtube#descargas
¿Que puede hacer este bot?
@HeimanXUploader_bot
Cargue archivos a Telegram, descargue medios de YouTube, convierta archivos y más.
Idiomas: inglés
(Visto en @botsgram_cu)
#youtube#descargas#edición
¿Que puede hacer este bot?
@OkGoogleMusicBot
Puede buscar y descargar cualquier pista de Soundcloud ☁️
Usando el modo inline, envíale el título de la pista y te mostrará lo que pude encontrar.
Idiomas: inglés, ruso
(Visto en @botsgram_cu)
#música#descargas#soundcloud
¿Que puede hacer este bot?
@YoutubeV2DXBot
Con este bot podrás descargar videos y audios de YouTube en diferentes formatos.
Idioma: inglés
(Visto en @botsgram_cu)
#música#videos#descargas#youtube
¿Que puede hacer este bot?
@TokenTikbot
El bot lo ayudará a descargar rápidamente cualquier video y música de TikTok sin una marca de agua.
Idiomas: inglés, ruso
(Visto en @botsgram_cu)
#música#videos#descargas#tiktok
¿Que puede hacer este bot?
@TikTokenBot
Un bot para descargar videos sin marca de agua de TikTok, y también ayudará a descargar cualquier pista de música.
Idiomas: inglés, ruso
(Visto en @botsgram_cu)
#videos#música#tiktok#descargas
¿Que puede hacer este bot?
@fmoviesearchbot
Este bot te ayudará a encontrar cualquier tipo de películas fácilmente.
Idiomas: inglés
(Visto en @botsgram_cu)
#películas#series#descargas
¿Que puede hacer este bot?
@cloudy_files_bot
Este es un bot de servicio en la nube. Le permite administrar archivos y descargarlos.
Idiomas: inglés
(Visto en @botsgram_cu)
#descargas#nube#archivos