Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #manganelli

当前筛选 #manganelli清除筛选

Savino Balzano

@savinobalzano · Post #579 · 01.03.2024 г., 12:08

Најди слично Погледај

La violenza fa schifo sempre e quella contro giovani studenti in piazza mi fa orrore. Però sorge spontanea una domandina: dov'erano tutti questi indignati mentre a essere massacrati erano i portuali di Trieste? quando lo erano i tassisti, mentre il Presidente del Consiglio riceveva l'AD di Uber? dov'erano gli indignati mentre venivano stesi di botte i lavoratori che protestavano contro il green pass? oppure mentre rompevano la faccia agli studenti che protestavano contro alternanza scuola lavoro a seguito della morte di un coetaneo? A fare schifo tanto quanto la violenza è la vostra ipocrisia. La mia al TG Plus di Cusano Italia TV #Gaza#Palestine#Pisa#cessateilfuoco#manganelli#studenti https://www.youtube.com/watch?v=jQx1N9rZRrY&ab_channel=SavinoBalzano

Hashtags

#gaza #palestine #pisa #cessateilfuoco #manganelli #studenti

Savino Balzano

@savinobalzano · Post #581 · 04.03.2024 г., 08:39

Најди слично Погледај

Non è vero che se scendi in piazza e rispetti le regole non corri alcun rischio: se così fosse non ci sarebbe stato il massacro del G8 di Genova e non ci sarebbero stati molti altri episodi di oppressione da parte di forze dell'ordine e autorità nei confronti di liberi cittadini in dissenso. È fondamentale che i singoli operatori delle forze dell'ordine siano sempre correttamente identificati, mediante codici ben visibili, di modo da punire con la massima severità ogni forma di abuso. La mia al TG Plus di Cusano Italia TV #polizia#manganelli#studenti#pisa#firenze#pace#Gaza https://www.youtube.com/watch?v=mwRLrQG6c1M&ab_channel=SavinoBalzano

Hashtags

#polizia #manganelli #studenti #pisa #firenze #pace #gaza