Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Osiyo Olimpiya kengashi Ijroiya byurosining 106-yigʻilishi boʻlib oʻtdi
Bugun Osiyo Olimpiya kengashi Ijroiya byurosining 106-yigʻilishi oʻtkazildi. Unda tashkilot faoliyatiga oid dolzarb masalalar, shu jumladan, ertaga boʻlib oʻtadigan OOKning 46-Bosh Assambleyasiga tayyorgarlik jarayonlari atroflicha muhokama qilindi.
—
Состоялось 106-е заседание Исполнительного бюро Олимпийского совета Азии
Сегодня состоялось 106-е заседание Исполнительного бюро Олимпийского совета Азии. В ходе встречи были всесторонне обсуждены актуальные вопросы, связанные с деятельностью организации, в том числе процессы подготовки к 46-й Генеральной Ассамблее ОСА, которая пройдет завтра.
#OOK
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Poytaxtimizda oʻtadigan xalqaro sport anjumanlariga tayyorgarlik ishlari koʻrib chiqildi
Bugun Sport vazirligida 24–27-yanvar kunlari poytaxtimizda oʻtkazilishi rejalashtirilgan yirik xalqaro sport tadbirlariga tayyorgarlik masalalariga bagʻishlangan yigʻilish boʻlib oʻtdi.
—
Ташкент готовится принять ряд международных спортивных мероприятий
Сегодня в Министерстве спорта состоялось совещание, посвящённое вопросам подготовки к крупным международным спортивным мероприятиям, запланированным к проведению в Ташкенте с 24 по 27 января.
#Yigilish#OOK
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Osiyo Olimpiya kengashining tarixiy Bosh Assambleyasidan lahzalar
—
Моменты с исторической Генеральной Ассамблеи Олимпийского совета Азии
—
Footage from the historic General Assembly of the Olympic Council of Asia
#OOK#BoshAssambleya
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Shayx Javʼan bin Hamad Ol Soniy Toshkentga tashrif buyurdi
Poytaxtimizda oʻtkaziladigan Osiyo Olimpiya kengashi 46-Bosh Assambleyasining faxriy mehmonlaridan biri – Milliy Olimpiya qoʻmitalari assotsiatsiyasi (ANOC) raisining birinchi oʻrinbosari, Qatar Olimpiya qoʻmitasi prezidenti Shayx Javʼan bin Hamad Ol Soniy Toshkentga yetib keldi.
Martabali mehmonni Islom Karimov nomidagi Toshkent xalqaro aeroportida Sport vazirligi hamda Milliy Olimpiya qoʻmitasi rahbariyati kutib oldi.
Maʼlumot uchun, Shayx Javʼan bin Hamad Ol Soniy Osiyo Olimpiya kengashining 46-Bosh Assambleyasi doirasida tashkilot rahbarligi uchun oʻtkaziladigan saylovda yagona nomzod sifatida koʻrsatilgan.
—
Шейх Джоаан бин Хамад Аль Тани прибыл в Ташкент
В столицу с официальным визитом прибыл первый заместитель председателя Ассоциации Национальных Олимпийских комитетов (ANOC), президент Олимпийского комитета Катара шейх Джоаан бин Хамад Аль Тани, который является одним из почётных гостей 46-й Генеральной Ассамблеи Олимпийского совета Азии.
Господина Аль Тани в международном аэропорту имени Ислама Каримова встретило руководство Министерства спорта и Национального Олимпийского комитета.
Для сведения, в рамках 46-й Генеральной Ассамблеи ОСА шейх Джоаан бин Хамад Аль Тани выдвинут единственным кандидатом на выборы руководителя организации.
#OOK#BoshAssambleya
👉@OlympicUz
olympic.uz I YouTube I Instagram I
26-yanvar kuni poytaxtimiz Toshkentda Osiyo sporti uchun yilning eng muhim voqealaridan biri – Osiyo Olimpiya kengashining 46-Bosh Assambleyasi boʻlib oʻtadi. Qitʼamizning 45 mamlakatidan Milliy Olimpiya qoʻmitalari va xalqaro sport ekspertlari ishtirokida oʻtadigan ushbu nufuzli tadbir Yangi Oʻzbekistonning yirik xalqaro anjumanlarni yuksak saviyada tashkil etish va oʻtkazish salohiyatini yana bir bor namoyon etadi.
—
26 января в нашей столице Ташкенте состоится одно из самых значимых событий года для Азиатского спорта — 46-я Генеральная Ассамблея Олимпийского совета Азии. В этом престижном форуме примут участие представители Национальных Олимпийских комитетов и международные спортивные эксперты из 45 стран континента. Мероприятие в очередной раз продемонстрирует высокий потенциал Нового Узбекистана в организации и проведении крупных международных мероприятий на самом высоком уровне.
#OOK#BoshAssambleya
👉@OlympicUz
olympic.uz I YouTube I Instagram I
OOK 46-Bosh Assambleyasiga tayyorgarlik masalalari muhokama qilindi
Joriy yilning 26-yanvar kuni Toshkent shahri Osiyo Olimpiya kengashining (OOK) 46-Bosh Assambleyasiga mezbonlik qiladi. Ayni paytda mazkur nufuzli tadbirni yuqori saviyada oʻtkazish maqsadida keng koʻlamli tayyorgarlik ishlari amalga oshirilmoqda. Bugun Sport vazirligida ushbu jarayonlarga bagʻishlangan yigʻilish boʻlib oʻtdi.
—
Ташкент готов принять 46-Генеральную Ассамблею ОСА
26 января текущего года в Ташкенте пройдёт 46-Генеральная Ассамблея Олимпийского совета Азии (ОСА). В настоящее время ведётся масштабная подготовка к проведению этого престижного мероприятия на высоком уровне. Сегодня в Министерстве спорта состоялось совещание, посвящённое организационным вопросам.
#OOK#BoshAssambleya
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Osiyo Olimpiya kengashining 46-Bosh assambleyasida ishtirok etdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев принял участие в 46-й Генеральной ассамблее Олимпийского совета Азии.
#Mirziyoyev#assambleya#OOK#olimpiyaharakati
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Osiyo Olimpiya kengashining 46-Bosh assambleyasida ishtirok etdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев принял участие в 46-й Генеральной ассамблее Олимпийского совета Азии.
#Mirziyoyev#assambleya#OOK#olimpiyaharakati
Prezident.uz|Facebook|Instagram|YouTube|X
Toshkentda Osiyo Olimpiya kengashining 46-Bosh Assambleyasi bo‘lib o‘tdi
Poytaxtimiz Toshkent shahrida Osiyo Olimpiya kengashining 46-Bosh Assambleyasi bo‘lib o‘tdi. Nufuzli anjumanda Osiyo Olimpiya kengashi va unga a’zo Milliy Olimpiya qo‘mitalari vakillari, Xalqaro Olimpiya qo‘mitasi hamda yetakchi sport tashkilotlarining rahbarlari, shuningdek, O‘zbekiston Respublikasi Sport vazirligi, Milliy Olimpiya va Paralimpiya qo‘mitalari rahbariyati ishtirok etdi.
—
В Ташкенте состоялась 46-я Генеральная Ассамблея Олимпийского совета Азии
В Ташкенте прошла 46-я Генеральная Ассамблея Олимпийского совета Азии. В работе престижного форума приняли участие представители Олимпийского совета Азии и входящих в его состав Национальных Олимпийских комитетов, главы Международного Олимпийского комитета и ведущих спортивных организаций, а также руководство Министерства спорта Республики Узбекистан, Национальных Олимпийского и Паралимпийского комитетов.
#OOK#BoshAssambleya#Toshkent2029
👉@OlympicUz
olympic.uz I YouTube I Instagram I
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Osiyo Olimpiya kengashining 46-Bosh assambleyasida ishtirok etdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев принял участие в 46-й Генеральной ассамблее Олимпийского совета Азии.
#Mirziyoyev#assambleya#OOK#olimpiyaharakati
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Osiyo Olimpiya kengashining 46-Bosh assambleyasida ishtirok etdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев принял участие в 46-й Генеральной ассамблее Олимпийского совета Азии.
#Mirziyoyev#assambleya#OOK#olimpiyaharakati
Prezident.uz|Facebook|Instagram|YouTube|X
Oʻzbekiston Respublikasi Prezidenti Shavkat Mirziyoyev Osiyo Olimpiya kengashining 46-Bosh assambleyasida ishtirok etdi.
—
Президент Республики Узбекистан Шавкат Мирзиёев принял участие в 46-й Генеральной ассамблее Олимпийского совета Азии.
#Mirziyoyev#assambleya#OOK#olimpiyaharakati
Prezident.uz|Facebook|Instagram|YouTube|X