Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
❓❓Sabías que...❓❓
✿✺✿✺✿✺✺✿✺✿✺✿✺✿✺✿
🤔La obediencia no siempre es sencilla. Puede requerir sacrificio🛠 personal, afrontar desafíos o ir en contra❌ de las normas sociales. La fe juega un papel crucial aquí, ya que la obediencia a menudo se mantiene incluso cuando el camino🛣 no es claro o los resultados no son inmediatamente evidentes.
❗️Si quieres conocer más quédese con nosotros...❗️
✿✺✿✺✿✺✺✿✺✿✺✿✺✿✺✿
#SabiasQue
Suscríbete👇👇👇
🔎@Escud_delasEscrituras📖
🔔"Activa notificaciones" para que no te pierdas nada👇👇👇
❓❓Sabías que...❓❓
✿✺✿✺✿✺✺✿✺✿✺✿✺✿✺✿
IDUMEA fue el nombre dado por los griegos y romanos a Edom, desde el siglo III a.C. (Mr.3.8) Este nombre es empleado por la versión de los LXX en la época grecorromana para traducir el nombre de la región de los idumeos, tierra situada al sur de Palestina y ocupada por este pueblo despues de la toma de Jerusalén por Nabucodonosor en el año 587 a.C
✿✺✿✺✿✺✺✿✺✿✺✿✺✿✺✿
#SabiasQue
Suscríbete👇👇👇
🔎@Escud_delasEscrituras📖
🔔Activa la campanita para que no te pierdas nada👇👇👇
#SabiasQue
Según las estadísticas los tramos más peligrosos en la Habana son los siguientes, ordenados por la cantidad de accidentes y lesionados.
1- La Vía Blanca, desde 10 de Octubre (Agua Dulce) hasta la Rotonda de Guanabacoa.
2- 5ta Avenida, desde el Túnel de Calzada hasta la calle 112.
3- Calle 100 desde 31 hasta Vento.
4- Calzada de Boyeros, desde Carlos III hasta la 26 (La Rotonda).
5- El Primer Anillo, desde la Carretera Central hasta la Calle 100.
Suscribete👇👇👇
🏢@La_Habana_desde_mi_movil📱
#SabiasQue
Se necesitan al menos 5kg de aceitunas para producir 1 litro de aceite de oliva extra virgen?
Por su parte, para producir esa misma cantidad de aceite se necesita la mitad (2.5kg) de semillas de girasol.😱😱😱
Suscribete👇👇👇
🏢@La_Habana_desde_mi_movil📱
#SabiasQue
Con un ancho máximo de 219 km, el Río de La Plata es considerado el río mas ancho del mundo.
No obstante, lo más curioso no es su anchura, sino todo lo que alberga en sus profundidades. En su interior hospeda aviones, barcos e incluso globos aerostáticos😱😱😱
Suscribete👇👇👇
🏢@La_Habana_desde_mi_movil📱
#SabiasQue
Mágicos océanos azules brillantes creados por miles de millones de organismos bioluminiscentes unicelulares microscópicos conocidos como destellos marinos (Noctiluca scintillans).
🧠@UnDatoViral
#SabiasQue
Las mujeres con un coeficiente intelectual más alto tienen más dificultades para encontrar pareja.
Las mujeres inteligentes prefieren permanecer solteras que estar con la persona equivocada.
🧠@UnDatoViral
#SabiasQue
Los Lampyridae son una familia de insectos del orden de los escarabajos Coleoptera con más de 2000 especies descritas. Son escarabajos de cuerpo blando a los que comúnmente se les llama luciérnagas o chinches relámpago.
🧠@UnDatoViral
#sabiasque#datosinteresantes
#datosquenosabias
#datosmedicos
#hematologia#urgencia#transfusion#hemoglobin
Aprende algo nuevo e interesante cada día en 100%Médico
👨⚕️👩⚕️
https://www.instagram.com/p/CUi6GB4MHkS/?utm_medium=share_sheet