Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
En el Día de la Radio Cubana felicitamos a los profesionales que aseguran "un sonido para ver". Un fuerte abrazo a todos. #GenteQueSuma
https://x.com/DrRobertoMOjeda/status/1958854593569268086
Dr. Roberto Morales Ojeda
(DrRobertoMOjeda) en X
En el 64 aniversario de la fundación del @minint_cuba, bastión inexpugnable de la Revolución, felicitamos a sus fundadores, jefes y combatientes, orgullo de la Patria. #GenteQueSuma
https://x.com/DrRobertoMOjeda/status/1930972475413627335
Partido Comunista de Cuba
(@PartidoPCC) en X
Como parte del 13 Congreso de la @anap_cuba se homenajearon a miembros de dicha organización que se han consagrado a su labor. Junto a ellos @DiazCanelB , el Comandante Machado y @DrRobertoMOjeda . #GenteQueSuma
https://x.com/PartidoPCC/status/1923147831180767326
Dr. Roberto Morales Ojeda
(Dr.RobertoMOjeda) en X
En el Día de la DAAFAR felicitamos a todos los combatientes que con esmero custodian los cielos de la Patria: #GenteQueSuma. @MinfarC
https://x.com/DrRobertoMOjeda/status/1912832668951105721
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
Felicitamos al mando y los combatientes del Ejército Central en el aniversario de su fundación. Estén siempre a la altura del Comandante Almeida. #GenteQueSuma
@MinfarC
https://x.com/DrRobertoMOjeda/status/1908108644958249338
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
En el municipio Mantua visitamos la cancha de la comunidad Montezuelo. En diálogo con la directora municipal de deporte conocimos las disciplinas que se practican en esa área, la cual también sirve para que los pioneros realicen la educación física. #GenteQueSuma
https://x.com/DrRobertoMOjeda/status/1897721233124302940
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
Felicitamos a los combatientes de las Tropas Guardafronteras en su 62 aniversario, insomnes centinelas de nuestras costas, salvaguarda de la Revolución. #GenteQueSuma
https://x.com/DrRobertoMOjeda/status/1897283947945697708
Partido Comunista de Cuba
(@PartidoPCC) en X
Desde horas tempranas decenas de personas llegan a la UEB "Los tamarindos". En una jornada de trabajo voluntario, aportan sus energías y fuerzas a la producción de alimentos. #GenteQueSuma
https://x.com/PartidoPCC/status/1893326988556877979?t=fruEc9NkV2xzoqUhwJJfpw&s=19
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
En el Día de la Prensa Cubana felicitamos a todos sus profesionales, #GenteQueSuma, revela y multiplica el heroísmo cotidiano del pueblo de #Cuba. ¡Con ustedes siempre contamos!
https://x.com/DrRobertoMOjeda/status/1900507677018497291
Miguel Díaz-Canel Bermúdez
(@DiazCanelB) en X
En Baire, cuyo grito de ¡Viva #Cuba libre! situó a esta localidad en la historia nacional, conversamos con un centenar de jóvenes sobre el épico 24/02/1895 y sobre las batallas de hoy. Siempre es inspirador y desafiante el diálogo con la juventud. #GenteQueSuma
https://x.com/DiazCanelB/status/1894141656867143936
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
Felicitamos a nuestros trabajadores metalúrgicos en su Día, con el convencimiento de que están #DePieYCombatiendo para aportar a nuestro pueblo sus valiosas producciones en la medida de las posibilidades. #GenteQueSuma
https://x.com/DrRobertoMOjeda/status/1904131328850678153
Dr. Roberto Morales Ojeda
(@DrRobertoMOjeda) en X
Con la inauguración del Parque Solar Fotovoltaico en Remedios iniciamos por las tierras de Marta Abreu y el Che las visitas a territorios de #VillaClara para recorrer sitios de interés económicos, productivos y sociales. #GenteQueSuma
https://x.com/DrRobertoMOjeda/status/1905619280135139438