Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
1-iyulgacha "President Tech Award" tanloviga ariza yuboring!
Prezidentimiz tashabbuslariga ko’ra umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovi juda ko’p Startup loyihalarni amalga oshishiga hissa qo’shib kelmoqda.
Bu mavsumda Siz ham qatnashing!
Tanlovda ishtirokni o’zi ham Sizga kelgusida loyihangizni targ’ib qilish uchun yangi tajriba va ko’nikmalar berishi aniq, g’olib bo’lsangiz esa loyihangizga qo’shimcha moliyaviy yordam olasiz.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Batafsil: https://awards.gov.uz
Muvaffaqiyatli Startup dunyodagi ko’proq insonlarning muammolarini yecha oladigan va hayotini yaxshilashga xizmat qiladigan bo’ladi. Shunda bemalol uni kelgusida Unicornga aylanishini niyat qilsa bo’ladi.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition
🐦 Umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovining uzoq kutilgan mavsumi yaqinlashmoqda. Tanlov yana ikki yo‘nalish bo‘yicha o‘tkaziladi: asosiy va maxsus toifalar.
Bu sizning bilim va tajribangizni namoyish etish hamda jamiyatga foyda keltiradigan innovatsion IT-yechimlarni taqdim etish imkoniyatingizdir.
👥 Bizni kuzatib boring — tez orada rasmiy toifalar, musobaqa jadvali va ishtirok etish shartlari e’lon qilinadi.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori o‘zgarishsiz qolmoqda:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Tanlovga tayyorlaning — sizning g‘oyalaringiz texnologiyalar kelajagini belgilab berishi mumkin.
—
🐦 The highly anticipated season of the President Tech Award is just around the corner — featuring a total prize pool of $1 million. The competition will once again be held across two segments: main and special categories.
This is your chance to demonstrate your expertise and bring forward innovative IT solutions that make an impact.
👥 Stay tuned — we will soon reveal the official categories, competition timeline, and participation guidelines.
🎁 Prize structure for the main categories remains unchanged:
🔵 1st place – $100,000
🔵 2nd place – $50,000
🔵 3rd place – $30,000
⭐️ Special category prize: $100,000
Prepare to take on the challenge — and let your ideas shape the future of technology.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition
1-iyulgacha "President Tech Award" tanloviga ariza yuboring!
Prezidentimiz tashabbuslariga ko’ra umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovi juda ko’p Startup loyihalarni amalga oshishiga hissa qo’shib kelmoqda.
Bu mavsumda Siz ham qatnashing!
Tanlovda ishtirokni o’zi ham Sizga kelgusida loyihangizni targ’ib qilish uchun yangi tajriba va ko’nikmalar berishi aniq, g’olib bo’lsangiz esa loyihangizga qo’shimcha moliyaviy yordam olasiz.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Batafsil: https://awards.gov.uz
Muvaffaqiyatli Startup dunyodagi ko’proq insonlarning muammolarini yecha oladigan va hayotini yaxshilashga xizmat qiladigan bo’ladi. Shunda bemalol uni kelgusida Unicornga aylanishini niyat qilsa bo’ladi.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition
🐦 Umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovining uzoq kutilgan mavsumi yaqinlashmoqda. Tanlov yana ikki yo‘nalish bo‘yicha o‘tkaziladi: asosiy va maxsus toifalar.
Bu sizning bilim va tajribangizni namoyish etish hamda jamiyatga foyda keltiradigan innovatsion IT-yechimlarni taqdim etish imkoniyatingizdir.
👥 Bizni kuzatib boring — tez orada rasmiy toifalar, musobaqa jadvali va ishtirok etish shartlari e’lon qilinadi.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori o‘zgarishsiz qolmoqda:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Tanlovga tayyorlaning — sizning g‘oyalaringiz texnologiyalar kelajagini belgilab berishi mumkin.
—
🐦 The highly anticipated season of the President Tech Award is just around the corner — featuring a total prize pool of $1 million. The competition will once again be held across two segments: main and special categories.
This is your chance to demonstrate your expertise and bring forward innovative IT solutions that make an impact.
👥 Stay tuned — we will soon reveal the official categories, competition timeline, and participation guidelines.
🎁 Prize structure for the main categories remains unchanged:
🔵 1st place – $100,000
🔵 2nd place – $50,000
🔵 3rd place – $30,000
⭐️ Special category prize: $100,000
Prepare to take on the challenge — and let your ideas shape the future of technology.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition
1-iyulgacha "President Tech Award" tanloviga ariza yuboring!
Prezidentimiz tashabbuslariga ko’ra umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovi juda ko’p Startup loyihalarni amalga oshishiga hissa qo’shib kelmoqda.
Bu mavsumda Siz ham qatnashing!
Tanlovda ishtirokni o’zi ham Sizga kelgusida loyihangizni targ’ib qilish uchun yangi tajriba va ko’nikmalar berishi aniq, g’olib bo’lsangiz esa loyihangizga qo’shimcha moliyaviy yordam olasiz.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Batafsil: https://awards.gov.uz
Muvaffaqiyatli Startup dunyodagi ko’proq insonlarning muammolarini yecha oladigan va hayotini yaxshilashga xizmat qiladigan bo’ladi. Shunda bemalol uni kelgusida Unicornga aylanishini niyat qilsa bo’ladi.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition
1-iyulgacha "President Tech Award" tanloviga ariza yuboring!
Prezidentimiz tashabbuslariga ko’ra umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovi juda ko’p Startup loyihalarni amalga oshishiga hissa qo’shib kelmoqda.
Bu mavsumda Siz ham qatnashing!
Tanlovda ishtirokni o’zi ham Sizga kelgusida loyihangizni targ’ib qilish uchun yangi tajriba va ko’nikmalar berishi aniq, g’olib bo’lsangiz esa loyihangizga qo’shimcha moliyaviy yordam olasiz.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Batafsil: https://awards.gov.uz
Muvaffaqiyatli Startup dunyodagi ko’proq insonlarni muammolarini yecha oladigan va hayotini yaxshilashga xizmat qiladian bo’ladi. Shunda bemalol uni kelgusida Unicornga aylanishini niyat qilsa bo’ladi.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition
1-iyulgacha "President Tech Award" tanloviga ariza yuboring!
Prezidentimiz tashabbuslariga ko’ra umumiy sovrin jamg‘armasi 1 million dollarni tashkil etuvchi “President Tech Award” tanlovi juda ko’p Startup loyihalarni amalga oshishiga hissa qo’shib kelmoqda.
Bu mavsumda Siz ham qatnashing!
Tanlovda ishtirokni o’zi ham Sizga kelgusida loyihangizni targ’ib qilish uchun yangi tajriba va ko’nikmalar berishi aniq, g’olib bo’lsangiz esa loyihangizga qo’shimcha moliyaviy yordam olasiz.
🎁 Asosiy toifalar bo‘yicha mukofotlar miqdori:
🔵 1-o‘rin — 100 000 dollar
🔵 2-o‘rin — 50 000 dollar
🔵 3-o‘rin — 30 000 dollar
⭐️ Maxsus toifa mukofoti: 100 000 dollar
Batafsil: https://awards.gov.uz
Muvaffaqiyatli Startup dunyodagi ko’proq insonlarning muammolarini yecha oladigan va hayotini yaxshilashga xizmat qiladigan bo’ladi. Shunda bemalol uni kelgusida Unicornga aylanishini niyat qilsa bo’ladi.
#PresidentTechAward#InnovationChallenge#TechForImpact#UzbekistanTech#ITCompetition