Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Italia
Comunali Giugliano 2025, sono almeno 13 gli indagati, tra cui ex consiglieri regionali e segretari provinciali. A beneficiare delle firme false sarebbero stati, oltre che cinque liste civiche, #PD, #IV, #Azione, #FI, #Lega, #FdI, #FI, #UdC e #NPSI
@OsservatorioItaliano
#Italia #Calabria #Catanzaro Ufficializzate le liste per le elezioni comunali di Catanzaro: ⚪ Antonio #Campo 📌 Catanzaro Oltre (#ItalExit) 🔴 Franco #DiLieto 📌 Insieme Osiamo (#PRC-#PaP-#SUD) 🔵 Valerio #Donato 📌 Alleanza per Catanzaro 📌 Riformisti (#NPSI)…
#Italia #Calabria #Catanzaro Ufficializzate le liste per le elezioni comunali di Catanzaro: ⚪ Antonio #Campo 📌 Catanzaro Oltre (#ItalExit) 🔴 Franco #DiLieto 📌 Insieme Osiamo (#PRC-#PaP-#SUD) 🔵 Valerio #Donato 📌 Alleanza per Catanzaro 📌 Riformisti (#NPSI)…
#Italia #Calabria #Catanzaro Ufficializzate le liste per le elezioni comunali di Catanzaro: ⚪ Antonio #Campo 📌 Catanzaro Oltre (#ItalExit) 🔴 Franco #DiLieto 📌 Insieme Osiamo (#PRC-#PaP-#SUD) 🔵 Valerio #Donato 📌 Alleanza per Catanzaro 📌 Riformisti (#NPSI)…
#Italia #Calabria #Catanzaro Ufficializzate le liste per le elezioni comunali di Catanzaro: ⚪ Antonio #Campo 📌 Catanzaro Oltre (#ItalExit) 🔴 Franco #DiLieto 📌 Insieme Osiamo (#PRC-#PaP-#SUD) 🔵 Valerio #Donato 📌 Alleanza per Catanzaro 📌 Riformisti (#NPSI)…
#Italia #Calabria #Catanzaro Ufficializzate le liste per le elezioni comunali di Catanzaro: ⚪ Antonio #Campo 📌 Catanzaro Oltre (#ItalExit) 🔴 Franco #DiLieto 📌 Insieme Osiamo (#PRC-#PaP-#SUD) 🔵 Valerio #Donato 📌 Alleanza per Catanzaro 📌 Riformisti (#NPSI)…
#Italia #Calabria #Catanzaro Ufficializzate le liste per le elezioni comunali di Catanzaro: ⚪ Antonio #Campo 📌 Catanzaro Oltre (#ItalExit) 🔴 Franco #DiLieto 📌 Insieme Osiamo (#PRC-#PaP-#SUD) 🔵 Valerio #Donato 📌 Alleanza per Catanzaro 📌 Riformisti (#NPSI)…
#Italia🇮🇹
#Comunali
#OrtaNova
A Orta Nova (Foggia) sono 4 i candidati a Sindaco.
Il centrodestra corre con Gerardo #Tarantino, sostenuto da Fratelli d'Italia (#FdI|ECR), Forza Italia (#FI|PPE) e da una lista civica.
Nicola #DiStasio è il candidato del Nuovo PSI #NPSI|PPE) e di due liste civiche.
Angela #Fazi è sostenuta da 2 liste civiche di centrosinistra.
Domenico #DiVito è sostenuto da 3 liste civiche.
@TuttoElezioni
#Italia🇮🇹
#Comunali
#SantElpidioaMare
A Sant'Elpidio a Mare (Fermo) la corsa è a 4.
Gionata #Calcinari è il candidato sostenuto da Fratelli d'Italia (#FdI|ECR), Lega (#LSP|PfE), #Azione|RE, Noi Moderati (#NM|PPE|PPCE), Nuovo PSI (#NPSI|PPE) e 3 liste civiche.
Il centrosinistra corre con Mirco #Romanelli, sostenuto dal Partito Democratico (#PD|S&D; senza simbolo), Alleanza Verdi e Sinistra (#AVS|F/EFA|LEFT) e da una lista civica.
È presente anche un candidato civico, Rossano #Orsili, sostenuto da 8 liste.
@TuttoElezioni
#Italia🇮🇹
#Comunali
#GiuglianoinCampania
A Giugliano in Campania (NA), comune non capoluogo più grande d'Italia (circa 124.000 abitanti), ci sono 3 candidati:
- Diego Nicola #DAltiero per il centrosinistra, sostenuto da Partito Democratico (#PD|S&D), #Azione|RE, Italia Viva (#IV|RE) e da 3 liste civiche;
- Salvatore #Pezzella, sostenuto da una lista civica;
- Giovanni #Pianese per il centrodestra, sostenuto da Fratelli d'Italia (#FdI|ECR), Forza Italia (#FI|PPE), Lega (#LSP|PfE; senza simbolo), Unione di Centro (#UdC|PPE), Nuovo PSI (#NPSI|PPE) e da 2 liste civiche.
@TuttoElezioni