Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🎉 Celebrating the upcoming IHO of @RankerDAO on Hot Cross with a sweet giveaway!
🎁 $10,000 in #HOTCROSS
🎮 $10,000 in $RANKER
🏆 500 Winners ($40 each)!
To join the campaign, do the following:
🐷 Follow @hotcrossann & https://t.me/RankerDAO_ann Announcements
🐷 Join @hotcross & @RankerDAO TG Group
🐷 Follow https://twitter.com/hotcrosscom & https://twitter.com/RankerDAO?t=chy4IrKNI1nJpvz58lTjxA&s=09 on Twitter
🤞Mandatory task
♻️ + ❤️ = RT + Like
Fill the form below 👇🏼👇🏼👇🏼
https://t.co/SBRaDgUu5i
#airdrophttps://t.co/OdpjOYVT7v
🎂 We would like to wish our friends at @FrontierDotXYZ a happy 1-year anniversary for $FRONT!
🎁#Giveaway time! Woohoo!
🏆 Download the Frontier Crypto & DeFi Mobile App to receive your share of $10,000 in #HOTCROSS
🎁 To join the campaign, do the following:
🐷 Follow @hotcrossann Announcements
🐷 Join @hotcross TG Group
🐷 Follow https://twitter.com/hotcrosscom on Twitter
🔷 Follow https://twitter.com/frontierdotxyz on Twitter
🔷Follow @FrontierDotXYZ Announcements.
♻️ Retweet the event on Twitter:
Finally:
📨 Fill in the Gleam form for a chance to win!
https://t.co/VN0d12SIXGhttps://t.co/bUrhZX7I3n
Good luck 🤞.
🎊 Hot Cross hops into The Metaverse with SecondLive and an out of this world Blind Box Campaign!
🎂 To celebrate the 1-Year Anniversary of #BinanceSmartChain@bsc_official_announcement we are teaming up with @SecondLiveCommunity to give away Limited Edition #HOTCROSS blind boxes and mine $HOTCROSS during the festival.
🎁 To join the campaign, do the following:
🐷 Follow @hotcrossann Announcements
🐷 Join @hotcross TG Group
🐷 Follow Hot Cross on Twitter
🔷 Follow SecondLive on Twitter
🔷 Join @SecondLiveCommunity TG Group
♻️ Retweet the event on Twitter: https://twitter.com/hotcrosscom/status/1430478918423748613
Finally:
📨 Fill in the Gleam form for a chance to win!
https://hotcross.link/secondlive
Good luck to all in the Metaverse and Happy Anniversary to Binance Smart Chain!
🎂 Celebrating the Second hotcross IHO on #binancesmartchain.
🎁#Giveaway time! Woohoo!
20000$ in #Hotcross + $PEL for 1000 winners.
🎁 To join the campaign, do the following:
🐷 Follow @hotcrossann Announcements
🐷 Join @hotcross TG Group
🐷 Follow https://twitter.com/hotcrosscom on Twitter
🔷 Follow https://twitter.com/propelxyz
🔷Follow https://t.me/propelchat
🎆 Follow. https://t.me/propel_ann
♻️ Retweet the event on Twitter:
Finally:
📨 Fill in the Gleam form for a chance to win!
https://gleam.io/PJO9K/the-hot-cross-x-propel-iho-giveaway
Good luck 🤞.
🎂 Celebrating the first ever hotcross IHO on #binancesmartchain.
🎁#Giveaway time! Woohoo!
20000$ in #Hotcross + $toon
🎁 To join the campaign, do the following:
🐷 Follow @hotcrossann Announcements
🐷 Join @hotcross TG Group
🐷 Follow https://twitter.com/hotcrosscom on Twitter
🔷 Follow https://twitter.com/PontoonFi
🔷Follow https://t.me/pontoon_fi group
♻️ Retweet the event on Twitter:
☠☠Read article for more info - https://updates.hotcross.com/p/iho-pontoon-finance
Finally:
📨 Fill in the Gleam form for a chance to win!
https://gleam.io/tGZd0/the-hot-cross-x-pontoon-iho-giveaway
Good luck 🤞.