Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #presearch

当前筛选 #presearch清除筛选

Venture Village Wall 🦄

@venturevillagewall · Post #4092 · 07.02.2025 г., 16:00

Најди слично Погледај

Tokenization & AI Bots Making Waves 🔹 Fraktion secures $1.14M in Seed funding from Cabrit Capital and others for real-world asset tokenization. 🔹 Presearch launches PreGPT 2.0, enhancing AI with privacy and decentralization. Read more: details 🔹 Solana protocol Fragmetric raises $7M led by Finality Capital. 🔹 ProdigyFi, a dual investment DeFi platform, garners $5M in Seed funding. 🔹 Hex Trust closed a round led by Morgan Creek Capital for undisclosed amount. 🔹 Superlogic raises $13.70M in Series A, backed by multiple investors including American Express Ventures. 🔹 The Game Company secures $10M for AI-powered cloud gaming solution. #Funding#Tokenization#AI#ChatBot#Crypto#DeFi#Solana#Web3#Presearch#Fraktion#Fragmetric#ProdigyFi#HexTrust#Superlogic#GameCompany#VC #Funding#Tokenization#AI#ChatBot#Crypto#DeFi#Solana#Web3#Presearch#Fraktion#Fragmetric#ProdigyFi#HexTrust#Superlogic#GameCompany#VC

Hashtags

#funding #tokenization #ai #chatbot #crypto #defi #solana #web3 #presearch #fraktion #fragmetric #prodigyfi #hextrust #superlogic #gamecompany #vc

Venture Village Wall 🦄

@venturevillagewall · Post #4101 · 08.02.2025 г., 19:00

Најди слично Погледај

Weekly AI News Highlights 🔹 Presearch launches chatbot PreGPT 2.0: Read more 🔹 Sberbank plans collaboration with Chinese researchers on AI projects: Read more 🔹 List of countries restricting Chinese AI DeepSeek prepared: Read more 🔹 Tether's Data department developing various AI applications for Bitcoin wallets: Read more 🔹 Figure creator terminates partnership with OpenAI after AI breakthrough: Read more 🔹 Binance analyzes meme coins and AI tokens market trends: Read more 🔹 Google unveils flagship AI model Gemini 2.0 Pro Experimental: Read more 🔹 AI tokens AI16Z and VVV see significant drop post-Binance listing: Read more 🔹 OpenAI introduces Deep Research mode in ChatGPT: Read more 🔹 List of cheap and free alternatives to OpenAI's Deep Research revealed: Read more #AI#Presearch#Sberbank#DeepSeek#Tether#Figure#Binance#Google#Gemini#AI16Z#VVV#ChatGPT#OpenAI#Crypto#VC#memecoins#tokens#research

Hashtags

#ai #presearch #sberbank #deepseek #tether #figure #binance #google #gemini #ai16z #vvv #chatgpt #openai #crypto #vc #memecoins #tokens #research