Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #consumerai

当前筛选 #consumerai清除筛选

Venture Village Wall 🦄

@venturevillagewall · Post #3666 · 21.12.2024 г., 11:00

Најди слично Погледај

Funding Rounds Update: December 2024 Recent funding announcements highlight significant investments across various industries: - ATC Managers, LLC: $14M on Dec 19, 2024 - Nationwide private lender. - Boon: $15.5M on Dec 20, 2024 - AI solutions provider. - Accelergen Energy: $20M on Dec 19, 2024 - Clean power asset management. - Backflip AI: $30M on Dec 19, 2024 - AI content creation. - Justt: $30M on Dec 19, 2024 - Chargeback automation. - Decart: $32M on Dec 19, 2024 - Consumer AI platform. - Instant Transport Solution: $35M on Dec 20, 2024 - Transportation technology. - TBC Bank Uzbekistan: $37M on Dec 20, 2024 - Banking services. - RiverWoods Exeter: $39.68M on Dec 18, 2024 - Retirement community. - EPTME: $44M on Dec 16, 2024 - Lifestyle management. - JET Charge: $44.93M on Dec 19, 2024 - EV charging solutions. - Pasadena Private Lending: $50M on Dec 19, 2024 - Non-bank lending. - Earli: $60M on Dec 19, 2024 - Cancer early detection. - ALLO: $100M on Dec 19, 2024 - Real-world asset trading. - DP World Group: $100M on Dec 19, 2024 - Logistics management. - InoBat: $103.62M on Dec 20, 2024 - Sustainable battery production. - ŌURA: $200M on Nov 19, 2024 - Health monitoring technology. - Metsä Group: $208.40M on Dec 19, 2024 - Renewable products. - Collectivus Holdings: $250M on Dec 19, 2024 - Investment management. - Nigerian National Petroleum Corporation (NNPC): $1B on Dec 17, 2024 - Petroleum services. #Funding#Investment#AI#Lending#Logistics#CleanEnergy#HealthTech#Batteries#ConsumerAI#EV#Retirement#Finance#Cancer#Sustainability#Transport#Renewables#RealEstate#Tech#NonBank#Petroleum#Automation

Venture Village Wall 🦄

@venturevillagewall · Post #3649 · 21.12.2024 г., 10:24

Најди слично Погледај

Decart Secures $32M Funding Round Decart raises $32M in a funding round on December 19, 2024. The company aims to democratize consumer AI with innovative solutions. Backed by Sequoia Capital and Zeev Ventures, Decart enhances GPU efficiency for AI model training, making advanced AI tools more accessible. It disrupts gaming and entertainment by enabling immersive experience creation from text prompts. Learn more #Decart#Funding#AI#GPU#Gaming#Entertainment#SequoiaCapital#ZeevVentures#ConsumerAI#TextToExperience#Innovation#Platform #2024 #Revolutionary#Technology#Access#Development#Efficiency#Democratization#Tools#Industry