Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#URGENTE Fox News informa que, Cole Allen, el tirador que intentó asesinar a Trump enfrenta tres cargos.
Cargo 1: Intento de asesinar al Presidente de los Estados Unidos. Pena de hasta cadena perpetua.
Cargo 2: Transportar un arma de fuego a través de fronteras estatales. Pena de diez años y una multa de $250,000.
Cargo 3: Disparar un arma de fuego durante un crimen de violencia. Pena mínima obligatorio de diez años.
🚨#Urgente / La artillería de ocupación está atacando la casa de la familia “Al-Tanani” en las inmediaciones del Hospital Kamal Adwan, al norte de la Franja de Gaza.
🚨#Urgente / Corresponsal: Incursión israelí dentro de las zonas controladas por la ocupación al sur y este de Khan Yunis, en el sur de la Franja de Gaza.
🔴#URGENTE
¡Pa´lante! El juez Peinado envía al banquillo a Begoña Gómez por cuatro delitos
https://www.mediterraneodigital.com/espana/juicio-begona-gomez-delitos-peinado-pedro-sanchez
⚠️#URGENTE: CACEROLAZO EN TODO EL TERRITORIO NACIONAL 📣 por Pescadores desaparecidos en Coronel
📌 Hoy, 21 horas: Cacerolazo nacional en apoyo a la búsqueda de los 7 pescadores artesanales desaparecidos en Coronel.
📌 Mañana, 10 AM: Marcha hasta La Moneda para exigir la extensión de la búsqueda.
💬 Comparte y difunde
para mostrar solidaridad con las familias afectadas.
Síguenos t.me/Epinforma🔁 comparte
#URGENTETarek William Saab presenta su renuncia como Fiscal General ante la Asamblea Nacional.
También se hizo pública la renuncia del Defensor del Pueblo.
Fundación GEP
🐦@fundacion_gep
____
#URGENTE La semana que viene se va a tratar el #PCT en el #Congreso. ¡Defendamos la soberanía en salud! https://t.co/CDgNRlcVOT
____
🔗http://twitter.com/fundacion_gep/status/1142104016542998528
"VOY A TENER QUE EMPEZAR A HABLAR YO": LA ADVERTENCIA DE TAILHADE QUE HACE TEMBLAR A LA ROSADA 💣🔥
@rodotailhade puso la mira en el escándalo internacional del que pocos hablan: los 350.000 dólares que Javier Milei habría destinado a una red financiada por el narcotráfico para desestabilizar gobiernos populares y perseguir al peronismo.
Cuando el "especialista en denunciar corruptos y narcos" dice que va a empezar a hablar, es porque lo que viene es pesado. ¿Se le viene la noche a la estrategia digital de los libertarios?
#Tailhade#EscandaloNarco#Milei#Persecucion#Urgente
#URGENTE#DIFUNDIR
#FacundoJonesHuala#ExtradiciónIlegal#LibertadYA
Lista de detenidxs tras la represión frente al juzgado en el que el juez Gustavo Villanueva ordenó la extradición de Facundo Jones Huala. Al menos dos detenidxs de menos de 18 años y una mujer embarazada.
Elías Troncoso
Luciana Mosca
Lorena Claro
Mario Fierro
Lucho Beveraggi
Eduardo Loque
Gustavo Peñaponce
Luciana Baso
Rocío Soya
Fernanda Nequi
Alejandro Gomez Peña
Luciana Beredayi
Silvia Narvaez
Florencia Fernández
Gaby Balmaceda
Martina Villavoz
Ezequiel Lira
A. T. (14 años)
A. P. (14 años)
Seguí la #CoberturaEspecial de la #RNMA por http://www.rnma.org.ar/radio/#/app/radio y por nuestras redes sociales.