Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
¡Otra de las infamias del #PRI! 🤬
🚨 El gobierno de Miguel de la Madrid sabía de la contaminación e hizo caso omiso 🍼☢️ | Cerca de 900 niños murieron y el cáncer infantil aumentó 300% 🚨⚠️
¡Hagan sus apuestas! 🤑
🔴 Aunque el #PRI ya huele a muerto, hay otros partidos que están haciendo méritos para desaparecer ⚰️ | ¿Quién será el primero en despedirse? 🤔👇🏻
Igual de falso que su partido ❌
🔴#AlitoMoreno quiso modernizarse, pero únicamente dejó ver que nada en él ni en el #PRI es auténtico 🙄🤖👎🏻
https://sinlineamx.com/alito-moreno-utiliza-ia-para-video-de-el-mismo/
Ni que fuera el #PRI🤡
🔴#AlitoMoreno está tan desesperado que no dudó en recurrir a las calumnias para desestimar el proyecto de salud 🙄❌🏥
https://sinlineamx.com/alito-moreno-acusa-farsa-en-servicio-universal-de-salud/
Lo batearon 🔥
🔴 Hasta los expriistas reconocieron que #AlitoMoreno se convirtió en lo peor que le pudo pasar al #PRI🫢‼️
https://sinlineamx.com/expriistas-rechazan-disculpas-alito-piden-renuncia/
¿#Alito hablando de "extinción"? 🤔
🔴 El chiste se cuenta solo ☄️🦖 | Todos menos él vemos el ocaso del #PRI🪦
¡Nuestra solidaridad a @NachoRgz! 🙏🏻
https://sinlineamx.com/alito-amenaza-el-chapucero-los-vamos-a-extinguir/
Ya andan copiando el discurso del PAN 🙄
🔴 El #PRI señaló que se debe contemplar la desaparición de poderes en #Sinaloa tras las acusaciones en contra de #RubénRocha🥱‼️👇🏻
https://revistaelpolitico.com/nacional/pri-exige-estricta-aplicacion-ley-caso-ruben-rocha/
¡Los tiene en el piso! 💣💥
🔴#Morena supera 2 a 1 al #PAN rumbo a 2027, mientras #PRI, #Verde y #PT se hunden en lo más bajo de las preferencias 📉 | ¿Qué opinas?
#Italia #Abruzzo #LAquila Ufficializzate le liste per le elezioni comunali all'Aquila 🔵 Pierluigi #Biondi (#FdI) 📌 L'Aquila Futura 📌 L'Aquila al Centro (#NcI-#PRI-#IaC) 📌 Civici e indipendenti per Biondi 📌 #FdI Meloni per Biondi Sindaco 📌 #FI 📌 #Lega Salvini…
#Italia #Abruzzo #LAquila Ufficializzate le liste per le elezioni comunali all'Aquila 🔵 Pierluigi #Biondi (#FdI) 📌 L'Aquila Futura 📌 L'Aquila al Centro (#NcI-#PRI-#IaC) 📌 Civici e indipendenti per Biondi 📌 #FdI Meloni per Biondi Sindaco 📌 #FI 📌 #Lega Salvini…