Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
"In seguito allo spiacevole episodio che il giorno 29 marzo, #DomenicadellePalme, ha coinvolto il Cardinale Pierbattista Pizzaballa, OFM, Patriarca di Gerusalemme dei Latini, e padre Francesco Ielpo, OFM, Custode di Terra Santa, ai quali la polizia israeliana ha impedito l’accesso alla basilica del #SantoSepolcro a #Gerusalemme, il Cardinale Pietro Parolin, Segretario di Stato, accompagnato da mons. Paul R. Gallagher, Segretario per i Rapporti con gli Stati e le Organizzazioni Internazionali, ha incontrato Yaron Sideman, Ambasciatore dello Stato di Israele presso la Santa Sede".
Lo si apprende da un comunicato diffuso a tarda sera dalla Sala Stampa vaticana. "Durante la conversazione - si precisa nel comunicato-, si è espresso rammarico per l’accaduto, in merito al quale sono stati offerti chiarimenti, e si è preso atto dell’intesa raggiunta tra il Patriarcato Latino di Gerusalemme e le Autorità locali circa la partecipazione alle liturgie del Triduo Santo presso la basilica del Santo Sepolcro a Gerusalemme".
"Il Patriarcato latino di #Gerusalemme e la Custodia di Terra Santa confermano che le questioni relative alla #SettimanaSanta e alle celebrazioni pasquali presso la basilica del #SantoSepolcro sono state affrontate e risolte in coordinamento con le autorità competenti. In accordo con la Polizia israeliana, è stato garantito l'accesso ai rappresentanti delle Chiese al fine di celebrare le liturgie e le cerimonie e preservare le antiche tradizioni pasquali presso la basilica del Santo Sepolcro".
Lo si apprende da un comunicato diffuso in queste ore dal Patriarcato latino di Gerusalemme, che precisa: "Naturalmente, e alla luce dell'attuale stato di #guerra, le restrizioni vigenti sugli assembramenti pubblici restano per il momento in vigore. Di conseguenza, le Chiese garantiranno che le liturgie e le preghiere vengano trasmesse in diretta ai fedeli in Terra Santa e in tutto il mondo".
"Esprimiamo la nostra sincera gratitudine a Isaac Herzog, Presidente dello Stato di #Israele, per la sua pronta attenzione e il suo prezioso intervento. Estendiamo inoltre il nostro apprezzamento ai Capi di Stato e ai funzionari che hanno agito tempestivamente per comunicare le loro ferme posizioni, molti dei quali ci hanno contattato personalmente per esprimere la loro vicinanza e il loro sostegno - si legge ancora nel comunicato -. Desideriamo sottolineare che la fede religiosa costituisce un valore umano supremo, condiviso da tutte le religioni: ebrei, cristiani, musulmani, drusi e altri. Soprattutto in tempi di difficoltà e conflitto, come quelli che stiamo vivendo, salvaguardare la libertà di culto rimane un dovere fondamentale e condiviso".
"Ci auguriamo che si continuino a trovare soluzioni adeguate che consentano di pregare nei luoghi di culto, in particolare nei Luoghi Santi di tutte le religioni, nel rispetto sia delle legittime esigenze di sicurezza sia delle osservanze e preghiere religiose di profonda importanza per centinaia di milioni di fedeli. La Chiesa mantiene un dialogo costante con le autorità, inclusa la polizia israeliana. Preghiamo e speriamo nella fine della tragica guerra che affligge la regione, consapevoli delle gravi conseguenze che essa ha su tutti", prosegue il comunicato, che così si conclude: "Il Patriarcato latino di Gerusalemme e la Custodia di Terra Santa ribadiscono il loro impegno per il dialogo, il rispetto reciproco e la preservazione dello status quo".