Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 1 слични објави

Пребарај: #nonbank

当前筛选 #nonbank清除筛选

Venture Village Wall 🦄

@venturevillagewall · Post #3666 · 21.12.2024 г., 11:00

Најди слично Погледај

Funding Rounds Update: December 2024 Recent funding announcements highlight significant investments across various industries: - ATC Managers, LLC: $14M on Dec 19, 2024 - Nationwide private lender. - Boon: $15.5M on Dec 20, 2024 - AI solutions provider. - Accelergen Energy: $20M on Dec 19, 2024 - Clean power asset management. - Backflip AI: $30M on Dec 19, 2024 - AI content creation. - Justt: $30M on Dec 19, 2024 - Chargeback automation. - Decart: $32M on Dec 19, 2024 - Consumer AI platform. - Instant Transport Solution: $35M on Dec 20, 2024 - Transportation technology. - TBC Bank Uzbekistan: $37M on Dec 20, 2024 - Banking services. - RiverWoods Exeter: $39.68M on Dec 18, 2024 - Retirement community. - EPTME: $44M on Dec 16, 2024 - Lifestyle management. - JET Charge: $44.93M on Dec 19, 2024 - EV charging solutions. - Pasadena Private Lending: $50M on Dec 19, 2024 - Non-bank lending. - Earli: $60M on Dec 19, 2024 - Cancer early detection. - ALLO: $100M on Dec 19, 2024 - Real-world asset trading. - DP World Group: $100M on Dec 19, 2024 - Logistics management. - InoBat: $103.62M on Dec 20, 2024 - Sustainable battery production. - ŌURA: $200M on Nov 19, 2024 - Health monitoring technology. - Metsä Group: $208.40M on Dec 19, 2024 - Renewable products. - Collectivus Holdings: $250M on Dec 19, 2024 - Investment management. - Nigerian National Petroleum Corporation (NNPC): $1B on Dec 17, 2024 - Petroleum services. #Funding#Investment#AI#Lending#Logistics#CleanEnergy#HealthTech#Batteries#ConsumerAI#EV#Retirement#Finance#Cancer#Sustainability#Transport#Renewables#RealEstate#Tech#NonBank#Petroleum#Automation