Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Italia
Commento del Presidente del Piemonte Alberto #Cirio (#FI|PPE) sulla decisone di Elena Chiorino (#FdI|ECR) di restituire l’incarico di Vicepresidente della Regione Piemonte:
“Apprezzo il gesto di Elena Chiorino, perché di fronte a questi fatti era necessario dare un segnale e il segnale è che le istituzioni vanno sempre tutelate e messe in sicurezza. Come ho già avuto modo di dire sette anni di conoscenza e di lavoro insieme mi hanno dimostrato la sua capacità e la sua correttezza su cui non nutro alcun dubbio. Tuttavia - prosegue il presidente - anche se ha posto rimedio non appena compresa la situazione, la leggerezza che ha compiuto è stata grave, perché fatta da chi ha ruoli istituzionali importanti e necessitava di una reazione da parte della Regione. Reazione che, come è mia consuetudine, è stata ragionata ed equilibrata: la mia è la scelta di un presidente che non si gira dall’altra parte perché ha a cuore il bene delle istituzioni”.
@Osservatorioitaliano
#Italia#Referendum2026
Il Presidente della Regione Piemonte Alberto #Cirio (#FI|PPE) ha votato ieri verso le 13:30 con suo figlio.
@Osservatorioitaliano
#Italia
Nonostante la dimissioni da Vicepresidente della Regione Piemonte, Elena #Chiorino (#FdI|ECR) resta assessora nella giunta di Alberto #Cirio (#FI|EPP), e sono confermate le sue deleghe: Istruzione e Lavoro. Esponente biellese di Fratelli d'Italia, Chiorino è anche lei coinvolta nell'affaire Delmastro, in quanto è stata titolare di quote, poi lasciate, di un ristorante romano di Miriam Caroccia, figlia diciottenne di Mauro Caroccia, condannato in via definitiva dalla Cassazione perché prestanome del clan mafioso dei Senese.
@Osservatorioitaliano
#Italia#Piemonte
Il caso Delmastro scuote la Regione Piemonte: le opposizioni chiedono la revoca delle deleghe o le dimissioni della Vicepresidente della giunta regionale, Elena #Chiorino (#FdI|ECR).
Fedelissima dell’ex sottosegretario alla Giustizia, Chiorino è socia del ristorante appartenente alla famiglia Caroccia, vicina al clan Senese.
Il Presidente Alberto #Cirio (#FI|EPP), oggi assente in Consiglio regionale per impegni a Bruxelles, annuncia che riferirà in Aula insieme alla sua vice la prossima settimana.
@OsservatorioItaliano
#Italia
❗️ Perde forza l'appello dei governatori a Draghi: dopo il no dei 3 governatori di #FdI|ECR, si sfilano anche i forzisti #Cirio, #Bardi, #Toma e #Occhiuto.
@UltimoraPolitics
#Italia#Piemonte
Il Segretario di #Azione|RE Carlo #Calenda sul nuovo vicepresidente del Piemonte Maurizio #Marrone (#FdI|ECR):
"È un filo putiniano. La nomina di un filo putiniano con una pessima storia di viaggi in Donbass e apertura di finti consolati alla vicepresidenza della Regione Piemonte è di una gravità assoluta e vorrei un intervento diretto di Antonio #Tajani e #Cirio."
Nota: Azione, in Piemonte, fa parte della maggioranza del presidente.
@Osservatorioitaliano