Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🔥🔥#Ethereum's Shanghai upgrade was completed 12 hours ago, let's review some stats:
➡️ Total $ETH staking is dropped from the peak of 18.163M to 17.476M ($34B)
➡️ Total withdrawn amount is about 124K $ETH (while the 24-hour deposit is 26.5K $ETH, so the net deposit is -97K $ETH ~ $192M)
➡️ Top withdrawer is LDO with 70,809 $ETH. But LDO won't allow users to withdraw until May, so most of the withdrawn $ETH is not liquidated.
➡️ $ETH price increases by 6% to $1,982, but with that price, 70% of stakers are still in loss (in USD terms)
🔗Link to current withdrawn status: https://etherscan.io/txsBeaconWithdrawal
🔗 Link to LIDO wallet: https://etherscan.io/address/0xb9d7934878b5fb9610b3fe8a5e441e8fad7e293f#withdrawals
Investors Withdraw $876M From Crypto Funds
$876 million withdrawn from crypto funds last week. This marks the fourth consecutive week of outflows, despite new announcements in the U.S.
#Crypto#Investments#US#Finance#Funds#Market#Trends#Trading#Withdrawals#Blockchain#Fintech#Economy#News#Updates#AI#VC
FTX Client Claims Total $1.2 Billion
FTX clients with claims under $50,000 total $1.2 billion, says creditor group representative Sunil Kavoury. Claims filing extended until January 20, with payments likely in February. Kraken initiates emails to clients for bankrupt FTX withdrawals, with payments under $50,000 expected within 60 days. BitGo might follow soon.
#FTX#Kraken#Bankruptcy#Crypto#Payments#Finance#Investments#Claim#BitGo#Withdrawals#AI
Bybit Under High Withdrawal Pressure
MEXC transferred 12,652 stETH ($33.75M) to Bybit's cold wallet. Bybit expected 64,452 ETH ($170M) in loan support from Bitget. An additional transfer of 11,800 ETH ($31M) occurred from Binance. Following a recent hack, Bybit recorded peak withdrawal levels, surpassing 350,000 requests; 99.994% have been processed.
Links: Porter Stansberry, Ben Zhou
#Bybit#MEXC#stETH#ETH#Crypto#Binance#Bitget#Bitcoin#Withdrawals#Whale#Finance#Hack#Blockchain#Investments#Market#Institutional#Debt#Liquidity#Trading#Assets#VC