Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Uno sguardo alle elezioni di ieri in #Sassonia e #Brandeburgo. Imponente avanzamento della destra nazionalista (#AfD) in entrambi i casi.
A causa dell'estrema demonizzazione di questo partito da parte di quelli mainstream, però, è improbabile che AfD riesca ad andare al governo
https://x.com/SavinoBalzano/status/1830908103950238155?t=aqBdSQJcukpGPZmf9IHHwg&s=19
Secondo #Gentiloni le recenti #elezioni in #Germania, con i risultati storici di cui tutti sappiamo in #Turingia e in #Sassonia, consacrerebbero la vittoria del «rancore contro tutto e tutti».
Vorrei ragionarci un attimo, non prima però di socializzarvi un fatto che ho notato: di queste elezioni non si parla già quasi più. Persino i telegiornali più sensibili alle vicende internazionali preferiscono dare maggior risalto ad altro, spesso alla cronaca nera. Eppure questo risultato è stato narrato come il ritorno del nazismo tedesco: si, insomma, secondo voi, cosa dovrebbe far più notizia del ritorno del nazismo (in Germania!)? Strano che non se ne parli già più. Ma lasciamo perdere: solite elucubrazioni complottiste.
Concordo in parte con quello che ha scritto il Commissario europeo: ha vinto il rancore. Solo non contro tutti, bensì contro quelli come lui.
Queste elezioni tedesche hanno visto la vittoria dei moderati, non degli estremisti: cosa c'è di più estremista del volere la guerra contro la Russia? dell'accettare e anzi alimentare il rischio della deflagrazione totale? dell'accettare che gli #StatiUniti montino una farsa per spezzare il naturale rapporto tra #Europa e #Russia? dell'accettare che tale strategia si ripercuota principalmente sui tedeschi? Questi ultimi sono infatti quelli che pagano economicamente il prezzo più alto, soprattutto dopo il sabotaggio del #NordStream2. Ricordiamo che venne annunciato da #Biden - anch'egli, come alcune notizie, stranamente scomparso - in una conferenza stampa precedente alla guerra, alla presenza dello stesso #Scholz, che non mosse un dito nonostante presagisse chiaramente il disastro tedesco. Immaginate: si preannunciava pubblicamente, alla presenza del Cancelliere, dinanzi al popolo tedesco, che sarebbe stata inferta una ferita mortale alla Germania e quello non si sentì in dovere di dire o fare assolutamente nulla: non vi sembra un atteggiamento "estremo"? A me pare estremismo puro: estremamente servile, tradimento estremo, come lo possiamo definire?
Non ritenete sia estremo insistere nel voler dare all'#Ucraina armi da impiegare in territorio russo nonostante non abbia alcuna possibilità di vincere e invece la certezza di spezzare altre centinaia di migliaia di giovani vite? Non credete che questa strada comporti danni economici gravissimi a tutta l'Europa, soprattutto a carico della parte più fragile della popolazione europea? Non vi pare un espediente "estremo", soprattutto se impiegato mentre si continuano a ignorare solo le responsabilità della #NATO a trazione statunitense? E quale avrebbe dovuto essere la reazione del popolo tedesco? Perché essa avrebbe dovuto differire da quella registrata in occaisione delle elezioni europee o francesi, a dispetto di come sono state raccontate? Non pare un caso che questo risultato sia stato conseguito proprio nella parte orientale del paese, la più fragile, quella letteralmente colonizzata dall'occidentale. Perché #PaoloGentiloni non prova a ragionarci pubblicamente?
Ancora, i #verdi, la forza politica più ipocrita e bellicista della Germania, sono stati spazzati via: le assurde politiche sul #green non hanno nulla a che vedere col rischio di chusura di stabilimenti della #Volkswagen? Questo ovviamente Gentiloni non lo può enfatizzare, dal momento che in qualità di Commissario europeo ha delle enormi responsabilità circa il delirio ecologista che infuria e impazza.
Di fondo, poi, si nota ancora una volta la concezione della #democrazia che viene alimenta e la nota citazione di #Churchill deve essere necessariamente arricchita: «la democrazia è la peggior forma di governo, eccezion fatta per tutte le altre forme che si sono sperimentate finora [sempre che a vincere siano gli amici di Gentiloni & Co]».
(...)
CONTINUA SU X