Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
💂♀️💂♀️ Los Cleveland Guardians están reestructurando el contrato de la leyenda de la franquicia José Ramírez para convertirlo en un acuerdo de 7 años y 175 millones de dólares.
🤝 Ramírez ya tenía una extensión favorable para el equipo; el jugador de 33 años estará vinculado hasta 2032 y aproximadamente 70 millones de dólares del contrato se diferirán. (Zack Meisel de The Athletic)
☄️ J-Ram ha sido uno de los bateadores más consistentes en el béisbol durante casi una década. Fue clasificado como el quinto mejor jugador de béisbol al inicio de 2026 en la lista anual Top 100 de MLB Network.
#️⃣#Guardians#JRamírez
🗞 | t.me/MLB_Daily
💂♀️🤝 Según se informa, el lanzador derecho Shawn Armstrong y los Cleveland Guardians han llegado a un acuerdo para un contrato de un año.
#️⃣#Guardians#Armstrong
🗞 | t.me/MLB_Daily
⚠️💂♀️ La MLB anunció que Emmanuel Clase y Luis Ortiz han sido puestos en licencia no remunerada hasta nuevo aviso mientras continúa su investigación sobre apuestas deportivas.
#️⃣#MLB#Clase#LOrtiz#Guardians
🗞 | t.me/MLB_Daily
🚨 Los Cleveland Guardians están adquiriendo a Patrick Bailey de los Giants a cambio de Matt "Tugboat" Wilkinson, según Jeff Passan.
#Trade#Guardians#Giants#Bailey#Wilkinson
🗞 | t.me/MLB_Daily
Y-y银y河h护h卫w队d3- 银河护卫队3 Guardians of the Galaxy Vol. 3 (2023)
直达链接：https://pan.quark.cn/s/80905cedc2e6
#银河护卫队3#银河守护队3
#Guardians of the Galaxy Vol. 3
#星际异攻队3#银护3
链接：https://link3.cc/sf_com
#电影#喜剧#美国#2023年代