Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 1 слични објави

Пребарај: #renewable

当前筛选 #renewable清除筛选

Venture Village Wall 🦄

@venturevillagewall · Post #4199 · 20.02.2025 г., 13:00

Најди слично Погледај

Major Funding Rounds Announced 💰 Key investment rounds announced: - Highways Infrastructure Trust: $948.87M for highway projects in India. - Lambda: $480M for AI-focused GPU cloud services. - Safe Dynamics: $100M to enhance site navigation for web. - VitalConnect: $100M for continuous biometric monitoring tech. - Terra CO2 Technologies: $82M aimed at decarbonizing cement. - Pulpex: $78.21M for sustainable renewable packaging solutions. - Baseten: $75M for optimized model serving network. - Augury: $75M for AI solutions in manufacturing. - Sanas: $65M for AI-powered accent translation for call centers. - 73 Strings: $55M for fintech solutions in asset analytics. - Blockaid: $50M for web3 asset security solutions. - Ecoener: $43.10M in renewable energy initiatives. - Atrandi Biosciences: $25M round announced. - Quadshift: $23M for B2B software solutions development. - AheadComputing: $21.50M for RISC-V CPU IP. - Certn: $21.14M for background screening software. - Capi Money: $18M raised recently. More details can be found here: Highways Infrastructure Trust, Lambda, Safe Dynamics, VitalConnect, Terra CO2 Technologies, Pulpex, Baseten, OpenEvidence, Augury, BitSmart, Sanas, 73 Strings, Blockaid, Ecoener, Atrandi Biosciences, Quadshift, AheadComputing, Certn, Capi Money #Funding#Investment#Infrastructure#AI#Tech#Healthcare#Renewable#Sustainability#Fintech#Web3#Biometrics#Software#Analytics#Decarbonization#Cloud#Packaging#Security#Blockchain#GPU#RISC-V

Hashtags

#funding #investment #infrastructure #ai #tech #healthcare #renewable #sustainability #fintech #web3 #biometrics #software #analytics #decarbonization #cloud #packaging #security #blockchain #gpu #risc