Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🎉🎉 Celebrate with us the impressive metrics within 🔟 days of Beta Launch🚀📈:
- 30K active users from 50 countries
- 10.2K smart alert configs are set
- 1.5M interactive maps are visualized
🌐🔗 We're honoured to harness #AI and #Onchaindata to empower our users for success!
🎯There is still a chance to share our 🎁$2,000🎁 reward pool and win the Beta Access Code!!
🎮Jump in our Zealy quest board now! We are distributing the code every week to highly engaging members. 🍀👇
https://zealy.io/c/spotonchain/questboard
🚀 Bitcoin's Potential Bear-Market 'Iron Bottom' Predicted by Analyst
A CryptoQuant analyst has projected that Bitcoin might establish a bear-market 'iron bottom' within the $55,000–$60,000 range by the end of 2026. According to NS3.AI, this prediction is grounded in on-chain indicators, notably the MVRV Z-score, which has moderated but remains above negative levels.
#Bitcoin#Crypto#BearMarket#CryptoAnalysis#MVRV#OnChainData#CryptoPredictions#BTC
🚀 Satoshi Protocol Layer2 Settlement Network Launches with Upgrades
The Satoshi Protocol Layer2 settlement network officially launched on April 6, introducing enhancements in on-chain data statistics and computational capabilities. According to ChainCatcher, the Layer2 network now supports deep cumulative calculations on-chain, allowing for a more accurate reflection of team sizes and business data, thereby improving processing efficiency in complex scenarios.
In terms of governance, the protocol has transferred core permissions to a multi-signature contract and adopted a dual-track governance model, with developers and core community members each holding 50% of the decision-making power. The execution threshold is set at 65%, further enhancing decentralization.
This upgrade marks the protocol's transition towards community autonomy, providing a reference for technology and governance in the DeFi sector.
#SatoshiProtocol#Layer2#Blockchain#DeFi#Governance#Decentralization#OnChainData#NetworkLaunch#Crypto#MultiSignature#ProtocolUpgrade#CommunityAutonomy