Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🟢 | Este viernes, en nuestro programa "Mapa de Conflicto", Marcos Salgado.
▪️Informe especial: Venezuela defiende su soberanía en la Haya.
¡Te esperamos!
↗️ Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/NzJ2NTM9gKg?si=tkjlQ8IVwXHlZFGq
⬅️ Este jueves, en "Los mediodías de Laiguana.tv", conducido por el viceministro Gustavo Villapol.
▫️¿Qué dice la calle de los anuncios de la Presidenta (E) Delcy Rodríguez?: Jesús Marcano.
¡Te esperamos!
🔺 Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/u2H-_FJM2eQ?si=476ZkxrXrtuRyldL
⚡️ | Este jueves 7 de mayo, en nuestro programa "Esto NO es un misil", conducido por Alberto Alvarado.
▪️El Renacer de Venezuela comenzó con anuncios económicos: Ricardo Menéndez.
¡Imperdible!
🔴 Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/YqiUty5bjxY?si=u9sTV3VF_6F1CFrN
📶 Este miércoles, en "Los mediodías de Laiguana.tv", con el periodista Clodovaldo Hernández.
▫️Venezuela consigna en La Haya sus títulos históricos sobre la Guayana Esequiba.
¡Te esperamos!
⭕ Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/jV3Jx3GWWt4?si=0WtTQrXwv612DRGk
✴️ | Este miércoles, en nuestro programa "Aquí y Ahora", conducido por el periodista Julio Riobó junto a Oliver Ponce.
▪️¿Cómo será la reforma parcial de la Ley Orgánica del TSJ?
🔺 Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/CAQdMEclQjA?si=ddWcxtLC3vMhMfyk
🔸 | Este martes, en nuestro programa "Aquí y Ahora", conducido por el periodista Julio Riobó.
▪️¿Qué dicen los empresarios sobre nuevos anuncios económicos?: Orlando Camacho.
🔺 Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/PLAM4iLyVtA?si=g2JrZ98nsQ3qrTLy
🌎 | Este lunes, en nuestro programa "Mapa de Conflicto".
▪️La recuperación económica en Venezuela: Análisis a fondo con Marcos Salgado.
¡Te esperamos!
↗️ Sintoniza el programa #EnVivo en nuestro canal de Youtube: https://www.youtube.com/live/H83_IKJFKLo?si=xlbxrl14t39ijiv1
🔴#EnVivo: La portavoz del Ministerio de Asuntos Exteriores de Rusia, María Zajárova, ofrece su rueda de prensa semanal sobre temas actuales de la política exterior.
Sigue la transmisión directa (en inglés):
👉Sitio del Ministerio
👉Ruptly
🔴#EnVivo: La portavoz del Ministerio de Asuntos Exteriores de Rusia, María Zajárova, ofrece su rueda de prensa semanal sobre temas actuales de la política exterior.
Sigue la transmisión directa (en inglés):
👉Sitio del Ministerio
👉 Ruptly
🔴#EnVivo: La portavoz del Ministerio de Asuntos Exteriores de Rusia, María Zajárova, ofrece su rueda de prensa semanal sobre temas actuales de la política exterior.
Sigue la transmisión directa (en inglés):
👉Sitio del Ministerio
👉Ruptly
🔴#EnVivo: La portavoz del Ministerio de Asuntos Exteriores de Rusia, María Zajárova, ofrece su rueda de prensa semanal sobre temas actuales de la política exterior.
Sigue la transmisión directa (en inglés):
👉Sitio del Ministerio
👉Ruptly