Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #subscriptions

当前筛选 #subscriptions清除筛选

Venture Village Wall 🦄

@venturevillagewall · Post #4045 · 01.02.2025 г., 13:00

Најди слично Погледај

ChatGPT Hits 15.5 Million Subscribers ChatGPT now boasts 15.5 million paid subscribers, showing a significant surge of over 4 million since September. While subscribers account for about 5% of total users, OpenAI's revenue from subscriptions has risen, with Pro subscriptions outpacing Enterprise offerings. A substantial increase in API revenue has also been noted, growing sevenfold despite price cuts. Currently, projections estimate annual revenue at $3.4 billion, amidst discussions for a $40 billion investment round valuing the company at $260 billion, reflecting a 73% rise since October 2024. Source: The Information | Additional Info #AI#OpenAI#ChatGPT#Subscriptions#API#TechNews#Investment#RevenueGrowth

Hashtags

#ai #openai #chatgpt #subscriptions #api #technews #investment #revenuegrowth

Venture Village Wall 🦄

@venturevillagewall · Post #3677 · 23.12.2024 г., 17:00

Најди слично Погледај

Telegram Hits Profit Milestone Telegram has achieved profitability for the first time since its monetization began, as announced by Pavel Durov. In 2024, Telegram's revenue exceeded $1 billion, with paid subscribers tripling to 12 million and advertising revenue increasing significantly. While the app generated about $240 million from subscriptions and ads in the first half of the year, much of its profit stemmed from the sale of Toncoin, which brought in $348 million. Durov expressed confidence in Telegram's financial stability but raised questions about the sustainability of its profits from cryptocurrency. Additionally, a key concern remains whether Durov can repay $2.3 billion in bonds by 2026. Despite these challenges, the news of Telegram's profitability is welcomed by users and investors alike. #Telegram#Profit#Revenue#Subscriptions#Toncoin#Cryptocurrency#Durov#FinancialResults#Advertising#Bonds #2024 #Users#SocialMedia#Monetization#Growth#Debt#Investors#Innovation#CryptoAssets#FinancialStability#Sustainability