Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
La capa di gabinetto al ministero della Giustizia #Bartolozzi a Telecor: "votate sì così ci togliamo di mezzo la magistratura che sono plotoni di esecuzione", dicendo anche che i magistrati, per la maggior parte, "lavorano seriamente e in silenzio" ma che…
La capa di gabinetto al ministero della Giustizia #Bartolozzi a Telecor: "votate sì così ci togliamo di mezzo la magistratura che sono plotoni di esecuzione", dicendo anche che i magistrati, per la maggior parte, "lavorano seriamente e in silenzio" ma che…
La capa di gabinetto al ministero della Giustizia #Bartolozzi a Telecor: "votate sì così ci togliamo di mezzo la magistratura che sono plotoni di esecuzione", dicendo anche che i magistrati, per la maggior parte, "lavorano seriamente e in silenzio" ma che "purtroppo ci sono gli altri che orientano ed è di quelli che ci dobbiamo liberare"
@UltimoraPolitics24
#Italia#Camera
Giusi #Bartolozzi: "Io oggi avrò 30 secondi per parlare durante gli emendamenti. Chiedo di essere clementi verso gli indipendenti di questo parlamento, altrimenti non possiamo espletare il nostro mandato."
@UltimoraPolitics
#Italia#Camera
Giusi #Bartolozzi: "Ieri è arrivato un emendamento della commissione, non scritto della commissione ma del ministero. Non abbiamo potuto fare di subemendamenti, capite bene l'umiliazione dei parlamentari."
@UltimoraPolitics
#Italia#Camera
#IV|RE annuncia il supporto ad alcuni emendamenti di #Bartolozzi (indipendente di cdx), nonostante il parere contrario del governo.
@UltimoraPolitics
#Italia#Camera
❗️L’Ufficio di Presidenza della Camera dei Deputati, con 11 voti favorevoli e 10 contrari, propone di sollevare il conflitto di attribuzione nei confronti della Procura della Repubblica di Roma nel caso che vede coinvolta l’ex Capo di Gabinetto del Ministero della Giustizia, Giusi #Bartolozzi, implicata nella vicenda Almasri. La decisione finale spetterà all’assemblea di Montecitorio.
@OsservatorioItaliano
"No, assolutamente". Così il ministro Carlo #Nordio stamattina a Sky Tg24 risponde in merito alla domanda se fosse in discussione la posizione della capo di gabinetto del ministero Giusi #Bartolozzi. Aggiungendo "Questa è una riforma che porta il mio nome e me ne assumo quindi la responsabilità politica. Se vi sono stati dei difetti di comunicazione o impostazione sono stati anche i miei"
@UltimoraPolitics24
ANSA - La capo di gabinetto Giusi #Bartolozzi e il sottosegretario Andrea #Delmastro sono a colloquio con il ministro della Giustizia Carlo #Nordio negli uffici di via Arenula; secondo fonti informate si va verso le dimissioni dei due.
@UltimoraPolitics
La premier Giorgia #Meloni esprime apprezzamento per la scelta del Sottosegretario alla Giustizia Andrea #Delmastro e del Capo di Gabinetto Giusi #Bartolozzi di rimettere gli incarichi, li ringrazia per il lavoro svolto con dedizione e auspica analoga scelta da parte del Ministro del Turismo Daniela #Santanchè. Lo riferisce una nota di Palazzo Chigi.
@UltimoraPolitics
#Italia
La vice capo di gabinetto uscente del Ministero della Giustizia, Giusi #Bartolozzi (#FI|EPP), è stata questa mattina negli uffici di via Arenula. Bartolozzi ha formalizzato le sue dimissioni ieri sera dopo un lungo colloquio, durato oltre due ore, nell'ufficio del Guardasigilli Carlo #Nordio (#FdI|ECR), anch'egli al lavoro questa mattina.
@Osservatorioitaliano
#Italia
❗️ BREAKING: Terremoto in Via Arenula.
Si dimettono il Sottosegretario alla Giustizia Andrea #Delmastro (#FdI|ECR) e la Capo di Gabinetto del Ministero Giusi #Bartolozzi (#FI|EPP).
@OsservatorioItaliano