Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #anagram

当前筛选 #anagram清除筛选

Venture Village Wall 🦄

@venturevillagewall · Post #4260 · 27.02.2025 г., 13:00

Најди слично Погледај

Latest Funding Rounds for Startups Recent funding rounds: - Flanks raised $14.70M on Feb 26, 2025. Focus on wealth management and core business growth. Read more - Infimind secured $13.77M on Feb 25, 2025. Enhancing e-commerce with AIGC technology. Read more - Anagram raised $10M on Feb 26, 2025. Human-driven security platform. Read more - Ignota Labs received $6.90M on Feb 26, 2025. Focused on toxicity prediction. Read more - HouseWhisper acquired $6.70M on Feb 25, 2025. AI for real estate professionals. Read more - Afynia Laboratories raised $5M on Feb 25, 2025. Read more - Dispersa received $4.07M on Feb 25, 2025. Read more - Swirepay raised $3.40M on Feb 25, 2025. Customizable B2B SaaS for transactions. Read more - CQR secured $3M on Feb 26, 2025. Read more - Vidyut received $2.50M on Feb 26, 2025. Read more #Fundraising#Flanks#Infimind#Anagram#Ignota#HouseWhisper#Afynia#Dispersa#Swirepay#CQR#Vidyut#AI#Tech#Startups#Finance#Ecommerce#Security#SaaS#B2B#Prediction#VC

Hashtags

#fundraising #flanks #infimind #anagram #ignota #housewhisper #afynia #dispersa #swirepay #cqr #vidyut #ai #tech #startups #finance #ecommerce #security #saas #b2b #prediction #vc

Venture Village Wall 🦄

@venturevillagewall · Post #3506 · 19.12.2024 г., 15:43

Најди слично Погледај

$6M Raised by Fraction AI Decentralized AI data labeling platform Fraction AI has successfully secured $6M in a Pre-seed funding round. The round was spearheaded by The Spartan Group and Symbolic Capital, with notable participation from various investors including Borderless Capital and Anagram. #AI#Funding#Decentralized#DataLabeling#Investment#FractionAI#PreSeed#TheSpartanGroup#SymbolicCapital#BorderlessCapital#Anagram#ForesightVentures#MaskNetwork#Karatage#NextWebCapital#KosmosVentures#MHVentures#GenerativeVentures#OakGroveVentures#CogitentVentures