Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Respect
Rahbar va yoshlar uchrashuvi: Yangi g‘oyalar – tezkor yechimlar
Farg‘onada “Yoshlar forumi” doirasida “Hududiy elektr tarmoqlari” AJ Boshqaruvi raisi Asrorjon Askarov hamda tizim korxonalari va hududiy filiallarda faoliyat yuritayotgan yoshlar ishtirokida “Rahbar va yoshlar uchrashuvi” bo‘lib o‘tdi.
Ochiq va samimiy muloqot shaklida o‘tgan tadbir davomida yoshlardan kelib tushgan yangi g‘oyalar va tashabbuslar muhokama qilindi. Xususan, “Hududiy elektr tarmoqlari” AJ Andijon hududiy filiali yoshlari tomonidan ilgari surilgan taklif Boshqaruv raisi tomonidan katta e’tibor bilan qabul qilinib, shu joyning o‘zida ijobiy hal etildi.
“Hududiy elektr tarmoqlari” AJ Andijon hududiy filiali matbuot xizmati
Het.uz | Facebook | Instagram | YouTube | Telegram
😄Respect
➖➖➖➖➖➖
🔘Respect, as a noun, is admiration for a person or thing.
🔜 I have so much respect for my mum. She's a great person.
🔘 Respect, as a verb, means to admire.
🔜 I respect my dad too. He's funny and caring.
🔘 Respect can mean showing politeness or honour.
🔜 We use Mr and Mrs as a sign of respect.
🔘 Respect can also be a feature or detail of something.
🔜 His new book is very different in a lot of respects.
#Respect👨🏫@America
➖➖➖➖➖➖➖➖➖➖➖➖
🆕 Crypto News @Money
😁 Crypto Game @Egame
🇺🇸 US News @America
🇯🇵 Japan News @Japan
🇦🇪 UAE News @Dubai
▶️ Popular Movies @Videos
😜 Best Funny Video @Funnys
Ого, Адель в новом клипе Эй Йолы снимается на фоне аватарки канала #respect
На самом деле в клипе другая уральская гора: впрочем, аватарки тут тоже не раз незаметно для читателей менялись с одной -тау на другую.
И сейчас там Ямантау, настоящую суть которой наверняка уже запрещено раскрывать по каким-нибудь очередным законам. Но в принципе башкиры знают, что Ямантау на самом деле не совсем гора
Iranian women☝🏻
This is how you garner the world's #respect.
Nudity has consistently served as a source of degradation, never representing anything else.
#respect
Сhet ellik mijozlarda bir narsani sezdim ularga brif bermasangiz ham o'zi nima qilishni biladi poster qildirish uchun bittasi brendni xarakteri, nima bilan shug'ulanishi, nima qilishi, qanday ranglardan foydalanishadi va hokazolarni yozib tashlabdi, respect o'zimizada mijozlar bunaqa saviyaga chiqishi uchun qancha vaqt kerak ekana...
@graf_ai
Hurmatli Volontyorlar!
Har qanday vaziyatda ham OʻZARO HURMAT🤗 va albatta qarshingizdagi insonni TINGLASHNI🤫 oʻrganing. Shunda ishingiz faqat "besh" boʻladi.🖐🏻😎
#Respect
#Oʻzaro_hurmat
@Jizzax_volontyorlar_maktabi