Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Bitmine has bought 45,000 $ETH, worth $95.3M, from #BitGo.
https://intel.arkm.com/explorer/address/0x9b72D128924E8B70CEb1512823630B9CBb1fE16c
https://intel.arkm.com/explorer/address/0x8477E881571F791C2c8Deeefa0B15bD071052cEB
https://x.com/OnchainLens/status/2039359922736095623
Follow @onchainlens for more onchain updates
Trump Meme Token team sent 6.97M $TRUMP worth $23.18M into #BitGo custody wallet and is likely to deposit in CEXs like before.
Address: 3S7zwPM8AytWyHJ7zhS8H1mixQPD6nTu6yXEK4HCEd9D
https://x.com/OnchainLens/status/2036971695169561079
Follow @onchainlens for more onchain updates
A newly created wallet received 1.5M $TRUMP worth $5.86M from the #Bitgo Custody Wallet.
Address: GVnRrkEurd9UEgVagsVaNQoR39XZaMsTQxCPD7Pkwha7
https://x.com/OnchainLens/status/2033708467861811375
Follow @onchainlens for more onchain updates
A newly created wallet received 6.27M $WLFI ($1.06M) and 324.85 $ETH ($980K) from #BitGo.
Address: 0x55b9e02Fd210F2FB029EF4195a31550908580E6E
https://x.com/OnchainLens/status/2014219983149273355
Follow @onchainlens for more onchain updates
A newly created wallet received 605.58 $BTC worth $56.51M from #BitGo
https://intel.arkm.com/explorer/address/bc1q27nx5pffg8dhxa2vlxp7pfsskdz0cn7aax95eldm5d5r64exvjuqdq6lpx
https://x.com/OnchainLens/status/2008451218126045660
Follow @onchainlens for more onchain updates
Bitmine (@BitMNR) has further bought 29,463 $ETH, worth $88.2M, from #BitGo and #Kraken. - The newly created wallet "0xecA" received 18,454 $ETH, valued at $55.61M, from #BitGo. - Wallet "0x1b6" withdrew an additional 11,009 $ETH, valued at $33.14M, from…
Bitmine (@BitMNR) has further bought 29,463 $ETH, worth $88.2M, from #BitGo and #Kraken.
- The newly created wallet "0xecA" received 18,454 $ETH, valued at $55.61M, from #BitGo.
- Wallet "0x1b6" withdrew an additional 11,009 $ETH, valued at $33.14M, from #Kraken. It now holds 24,421 $ETH, valued at $73.12M.
Addresses:
- 0xecA84b8599A5e11d6b600F24a0F42703E1D4c3eA
- 0x1b6E316c4d3093bbf8182Cf2fa76Be4611df0a8A
https://x.com/OnchainLens/status/2003296928566771813
Follow @onchainlens for more onchain updates
Trump Meme Team Allocation Wallet sent 5.267M $TRUMP, worth $22.44M, into a #BitGo Custody wallet. Are we selling via OTC? https://solscan.io/account/AduisyNJFAxo49tDQmJUN7Ujc2xAmgmfjJqTaPptPUU4#transfers https://x.com/OnchainLens/status/2018495068852871321…