Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔴Selon le scénario de base, la dette publique américaine dépassera 120 % du PIB d'ici à #2027 au plus tard, estime l'agence de notation Fitch Ratings.
🔴Selon l'agence, le ratio dette sur #PIB des États-Unis s'élevait à 116,6 % en 2025. Il atteindra 119,3 % cette année et passera à 122,2 % en 2027.
RT en français • Osez questionner !
🔴Selon le scénario de base, la dette publique américaine dépassera 120 % du PIB d'ici à #2027 au plus tard, estime l'agence de notation Fitch Ratings.
🔴Selon l'agence, le ratio dette sur #PIB des États-Unis s'élevait à 116,6 % en 2025. Il atteindra 119,3 % cette année et passera à 122,2 % en 2027.
RT en français • Osez questionner !
#Portugal reduce la expectativa de #PIB y el ministro advierte de que los principales socios comerciales del país (#UE y #EEUU) entrarán en #recesión en 2024
https://www.euractiv.com/section/politics/news/portuguese-finance-minister-sees-cause-for-concern-for-economy-in-2024/
#Cultura y #Crisis. Desde hace 15 años el #PIB está estancado. Ahora los medios promocionan como progresista y cool, a base de medias verdades y mensajes confusos exprofeso, el #decrecimiento. ¿Curioso, no?
https://elpais.com/economia/negocios/2023-11-04/crecer-menos-para-crecer-mejor-asi-piensan-los-iconoclastas-que-quieren-acabar-con-la-dictadura-del-pib.html
#Brasil. Lula ataja la #Inflación sin agotar el crecimiento del #PIB, pero no acota el #déficit... viene una ola de #austeridad
https://www.clarin.com/mundo/brasil-crece-ataja-inflacion-primer-ano-lula-da-silva-deficit-disparado-lejos-metas_0_IfKkiNUK41.html
Y de nuevo las políticas universalistas tradicionales son sustituidas por políticas de #smi y programas para «los más desfavorecidos»
https://www.diariopanorama.com/noticia/470720/lula-aumentara-salario-minimo-encima-inflacion-primera-vez-brasil-desde-2016