Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
· · • • •🎃• · · HALLOWEEN · · •🎃• • • · ·
Bien como la mayoría votó por una historia de terror les traigo 2 leyendas urbanas muy conocidas espero que les guste.
#festivos#halloween
· · • • • • • · · · · • • • 🎃• • • · · · · • • • • • · ·
· · • • •🎃• · · HALLOWEEN · · •🎃• • • · ·
Calabazas, faros, disfraces horrorosos, pero también fiestas hasta madrugada... ¡Sí, se trata de Halloween, una fiesta que se celebra, sobre todo, en los Estados Unidos pero que goza de gran fama en todo el mundo!
¿Habéis pensado ya cuánto sabéis sobre Halloween? Hoy he decidido hablaros un poco de esta tradición y sus curiosidades.
#curiosidades#festivos#halloween
· · • • • • • · · · · • • • 🎃• • • · · · · • • • • • · ·
· · • • •❄️• · · San Valentín · · • ❄️• • • · ·
San Valentín llega puntual como cada año y si eres fiel a la tradición más edulcorada del calendario necesitas ideas frescas para sorprender. Prueba con estas 😉.
#SanValentin#ideas#festivos
· · • • • • • · · · · • • • ☃️ • • • · · · · • • • • • · ·
· · • • • •🎄• · · NAVIDAD · · •🎄• • • • · ·
En el post de hoy intentaré sacaros de más de un apuro con estas manualidades para regalar. Espero que les gusten.
#festivos#navidad
#recomendación
· · • • • • • · · · · • • • 🎄• • • · · · · • • • • • · ·
· · • • • •🎄• · · NAVIDAD · · •🎄• • • • · ·
Si hay algo que nos gusta en Navidad (además de recibir regalos y comer hasta morir) es ver películas de temática navideña, enfundados en un jersey calentito y, a poder ser, con un buen tazón de chocolate caliente. Así que he recopilado para ti las mejores películas para ver en navidad.
#festivos#navidad
#recomendación
· · • • • • • · · · · • • • 🎄• • • · · · · • • • • • · ·
· · • • • •🎄• · · RECETA · · •🎄• • • • · ·
Estos cupcakes de chocolate están cubiertos por una crema de Nutella que a los niños les encantará y son ideales para compartir un día como hoy.
¿A que os gustan estos cupcakes de chocolate tan navideños que os traemos hoy?
#festivos#receta#navidad
· · • • • • • · · · · • • • 🎄• • • · · · · • • • • • · ·
· · • • • •❄️• · · · FONDOS · · · • ❄️• • • • · ·
Hola personitas bellas ya entramos en el mes del amor y la amistad por lo que hoy les traigo unos bellos fondos para parejas y amig@s que espero que les gusten y los puedan utilizar😊
#fondos#SanValentin#festivos
· · • • • • • · · · · • • • ☃️ • • • · · · · • • • • • · ·