Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇧🇷La polizia brasiliana ha fatto irruzione nella casa dell'ex Presidente #Bolsonaro. Inoltre, sono stati arrestati due suoi assistenti per aver prodotto, durante la sua presidenza, certificati di vaccino covid falsi per recarsi negli USA. (Reuters)
@UltimoraPolitics
🔴BREAKING: i sostenitori dell'ex presidente #Bolsonaro irrompono nell'edificio del congresso brasiliano.
Aggiornamenti su: @UltimoraLive
@UltimoraPolitics
#Brasile
#Bolsonaro condanna l'assalto ai palazzi del potere: "Le manifestazioni pacifiche, secondo la legge, fanno parte della democrazia. I saccheggi e le invasioni di edifici pubblici come quelli di oggi sono illegali"
@ultimoralive
#Brasile
La Corte elettorale superiore ha votato a maggioranza per condannare e rendere ineleggibile l'ex Presidente Jair #Bolsonaro (#PL|Destra radicale) per i prossimi 8 anni.
@OsservatorioEsteri
#Brasile
La Polícia Federal ha individuato sei centri d'azione nell'ambito delle indagini su un presunto tentativo di colpo di Stato.
Oggi è stato inviato all'#STF il documento con l'incriminazione di 37 persone, tra cui Jair #Bolsonaro (#PL|Destra radicale).
Secondo le indagini, il gruppo era suddiviso in:
- Centro di disinformazione e attacchi al sistema elettorale;
- Centro responsabile dell'incitamento dei militari a partecipare al colpo di Stato;
- Centro legale;
- Centro operativo per il sostegno alle azioni di colpo di Stato;
- Centro di intelligence parallelo;
- Centro operativo per il rispetto delle misure coercitive.
D'ora in poi, il Giudice Alexandre #DeMoraes dovrà inviare il rapporto alla Procura Generale (#PGR), che deciderà se incriminare o meno le persone coinvolte.
Fonte: CNN
@OsservatorioEsteri
#Sondaggi#Brasile#Presidenziali
Sondaggio di PoderData sul secondo turno:
#Lula (#PT|Centro-sinistra): 48% (-2)
Jair #Bolsonaro (#PL|Destra radicale): 39% (+3)
Nessuno/Scheda bianca: 10% (-2)
Non so: 3% (+1)
Data rilevazione: 24-26 aprile
+/-: 13-15 marzo
Intervistati: 3000
@UltimoraPolitics
#Sondaggi#Brasile#Presidenziali
Sondaggio di Exame/IDEIA sul secondo turno:
#Lula (#PT|Centro-sinistra): 48% (-2)
Jair #Bolsonaro (#PL|Destra radicale): 39% (+2)
Nessuno/Scheda bianca: 9%
Non so: 4%
Data rilevazione: 15-20 aprile
+/-: 18-23 marzo
Intervistati: 1500
@UltimoraPolitics