Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Una lezione dal Boao Forum: l'Asia ci mostra un'altra strada
Mentre il mondo si frammenta, l'Asia costruisce integrazione. Nonostante diversità profonde, la regione ha saputo creare una rete produttiva e commerciale che funziona: dipendenza intra-regionale in crescita, supply chain policentrica, PIL al 50% globale.
Cina e ASEAN trainano questo sistema. Non c'è un centro unico, ma complementarità tra paesi diversi. Singapore lo ha detto chiaramente: la Cina può essere il principale sostenitore di un commercio aperto e basato su regole condivise.
Europa, guardiamo a questo modello. Siamo abitanti della stessa massa continentale eurasiatica. Forse è lì che va costruito il nostro futuro, non nella logica dei blocchi contrapposti.
#BoaoForum#Asia#Integrazione#Geopolitica
https://www.marx21.it/internazionale/una-mappa-del-mondo-e-le-nostre-priorita-la-lezione-del-boao-forum/
Tragedie in mare: colpa dell'Unione Europea.
Falsario, qualunquista, populista, demagogo, fascista, complottista: questi gli attributi riservati a chi osa mettere in dubbio l'Unione Europea.
Ma cos'è il complottismo se non la fede cieca in istituzioni che per la gente non fanno assolutamente nulla?
La mia al TG Plus di Cusano Italia TV
#politica#informazione#televisione#italia#immigrazione#migranti#integrazione#UnioneEuropea#europa
Non sono tra quelli che considerano il Presidente della Repubblica un Moloch: ho trovato le sue parole decisamente parziali.
La mia al TG Plus di Cusano Italia TV
#informazione#televisione#politica#italia#immigrazione#migranti#accoglienza#integrazione#Mattarella#Presidente
https://x.com/SavinoBalzano/status/1839324491903856983?t=yXt9pLSue3hw3BPk-HzOjw&s=19
Sapete che c'è? Ho deciso di dare retta a @riccardomagi e voglio sostenere il #ReferendumCittadinanza. In cambio, chiedo a @Piu_Europa di uscire dall'equivoco: siete disponibili a mettere in discussione una volta per tutte le politiche neoliberali imposte dall'#UE?
Ve lo domando perché se non mettiamo da parte l'#austerity, il #PareggioDiBilancio, il #PattoDiStabilità e tutta la robaccia che di solito vi manda in brodo di giuggiole, allora sarà semplicemente impossibile l'#integrazione.
Senza quest'ultima, l'#accoglienza indiscriminata si trasformerebbe in una nuova tratta degli schiavi che, guarda caso, tutto sommato con le logiche neoliberali non cozzerebbe più di tanto.
Basta con questa fregnaccia dei buoni da un lato e dei cattivi dall'altro: facciamola finita che è meglio.
La mia a #TGItalia, #CusanoNews7