Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Italia
Il sottosegrario Rossano #Sasso (Lega): "Non siamo al Governo per promuovere cannabis e Ius Soli, non sono temi dell'agenda di Governo.
Da PD e M5S oggi una provocazione inaccettabile, anziché affrontare temi come lavoro, inflazione, tasse, irridono i problemi dei cittadini. Difficile continuare a stare al Governo così."
@UltimoraPolitics
#Italia#Camera
❗Rossano #Sasso (#FN|ESN) ha appena votato "NO" alla questione di fiducia al governo Meloni, passando ufficialmente all'opposizione.
@OsservatorioItaliano
I deputati Edoardo #Ziello e Rossano #Sasso annunciano l'uscita dalla Lega e il passaggio a Futuro Nazionale di Roberto #Vannacci, comunicando la decisione attraverso i propri canali istituzionali e social.
@UltimoraPolitics24
Educazione affettiva nelle scuole, tensione alla #Camera dopo la bocciatura all'emendamento del #M5S al ddl per il contrasto alla violenza sulle donne e alla violenza domestica. Il leghista Rossano #Sasso: "Una nefandezza nelle scuole per i bambini di 6 anni, un contenuto degradante". Immediata la reazione dell'opposizione. Angelo #Bonelli (#AVS): "Parole inaccettabili. Qui non siamo a Kabul. Dobbiamo insegnare ai giovani il rispetto del corpo delle donne". Anna Laura #Orrico (#M5S): "La Preistoria è finita 4 mila anni fa"
@UltimoraPolitics
#Italia
È stata resa nota la rosa dei sottosegretari:
📌 Rapporti con il parlamento - Deborah Bergamini (#FI|EPP) e Simona #Malpezzi (#PD|S&D)
📌 Sud e coesione sociale: Dalila #Nesci (#M5S|NI)
📌 Innovazione tecnologica e transizione digitale: Assuntela #Messina (#M5S|NI)
📌 Affari europei: Vincenzo #Amendola (#PD|S&D)
📌 Editoria: Giuseppe #Moles (#FI|EPP)
📌 Coordinamento della politica economica: Bruno #Tabacci (#CD)
📌 Sicurezza della Repubblica: Franco #Gabrielli
📌 Interni: Nicola #Moleni (#Lega), Ivan #Scalfarotto (#IV|RE), Carlo Sibilia (#M5S|NI)
📌 Giustizia: Anna #Macina (#M5S) e Francesco Paolo #Sisto (#FI|EPP)
📌 Difesa: Giorgio #Mulè (#FI|EPP) e Stefania #Pucciarelli (#Lega|ID)
📌 Economia: Laura #Castelli (#M5S|NI), Claudio #Durigon (#Lega|ID), Maria Cecilia #Guerra (#PD|S&D) e Alessandra #Sartore (#PD|S&D)
📌 Sviluppo economico: Gilberto Alberto #Fratin (#FI|EPP), Anna #Ascani (#PD|S&D) e Alessandra #Todde (#M5S|NI)
📌 Politiche agricole: Gianfranco #Battistoni (#FI|EPP) e Gian Marco #Centinaio (#Lega|ID)
📌 Transizione ecologica: Ilaria #Fontana (#M5S|NI) e Vannia #Gavia (#Lega|ID)
📌 Infrastrutture: Teresa #Bellanova (#IV|RE), Alessandro #Morelli (#Lega|ID) e Giancarlo #Cancelleri (#M5S|NI)
📌 Lavoro: Rossella #Accoto (#M5S|NI) e Tiziana #Nisini (#M5S)
📌 Istruzione: Barbara #Floridia (#M5S|NI) e Rossano #Sasso (#Lega|ID)
📌 Beni e attività culturali: Lucia #Borgonzoni (#Lega|ID)
📌 Salute: Pierpaolo #Sileri (#M5S|NI) e Andrea #Costa
📌 Esteri: Marina #Sereni (#PD|S&D), Benedetto #DellaVedova (#PiuE|RE) e Manlio #DiStefano (M5S|NI)
@NewsESondaggi