Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
#Front Office — mehmonxonaning yuzi
va xizmat sifatining asosi.
⏳O‘qish muddati: 2 hafta
📍Xalqaro Turizm Akademiyasi
Ta’lim:
🇨🇭 Shveytsariya sifat standartlari
🌍 xalqaro mehmonxona talablari
asosida olib boriladi.
🎓 Tinglovchilar:
✔️ amaliy kasbiy ko‘nikmalar
✔️ professional muloqot tajribasi
✔️ Xalqaro Turizm Akademiyasi sertifikatiga ega bo'ladilar.
🔜🇺🇸en
🔜🇷🇺ru
➡️ Ro‘yxatdan o‘ting
📍 Samarqand shahar, Bobur Mirzo ko‘chasi, 3A
📌new.tourism-academy.uz
📞 (90) 103-30-00
Official accounts
🌐telegram
📱instagram
📱facebook
📊#FRONT is pumped with a high volume and breakout the horizontal levels, which will now act as support. MACD crossover is showing bullish momentum.
The Ichimoku cloud is indicating a bullish trend. As long as it remains above the established horizontal support, it is anticipated that this bullish trend will persist.👀
❄️@signals_bitcoin_crypto❄️
❄️@Shadow_support0o❄️
#Front Office — mehmonxonaning yuzi
va xizmat sifatining asosi.
📅Kurs boshlanishi: 20-aprel
⏳O‘qish muddati: 2 hafta
📍Xalqaro Turizm Akademiyasi
Ta’lim:
🇨🇭 Shveytsariya sifat standartlari
🌍 xalqaro mehmonxona talablari
asosida olib boriladi.
🎓 Tinglovchilar:
✔️ amaliy kasbiy ko‘nikmalar
✔️ professional muloqot tajribasi
✔️ Xalqaro Turizm Akademiyasi sertifikatiga ega bo'ladilar.
🔜🇺🇸en
🔜🇷🇺ru
➡️ Ro‘yxatdan o‘ting
📍 Samarqand shahar, Bobur Mirzo ko‘chasi, 3A
📌LINK HERE
📞 (90) 103-30-00
Official accounts
🌐telegram
📱instagram
📱facebook
#FRONT
Want to see a retracement and liquidity sweep. Then will be fine if we will see an expansion to the TMO till the 27th of May.
Control your risk!😉
📈Sign up on Bybit to trade with me
#Front Office — mehmonxonaning yuzi
va xizmat sifatining asosi.
📅Kurs boshlanishi: 16-fevral
⏳O‘qish muddati: 2 hafta
📍Xalqaro Turizm Akademiyasi
Ta’lim:
🇨🇭 Shveytsariya sifat standartlari
🌍 xalqaro mehmonxona talablari
asosida olib boriladi.
🎓 Tinglovchilar:
✔️ amaliy kasbiy ko‘nikmalar
✔️ professional muloqot tajribasi
✔️ Xalqaro Turizm Akademiyasi sertifikatiga ega bo'ladilar.
🔜🇺🇸en
🔜🇷🇺ru
➡️ Ro‘yxatdan o‘ting
📍 Samarqand shahar, Bobur Mirzo ko‘chasi, 3A
📌new.tourism-academy.uz
📞 (90) 103-30-00
Official accounts
🌐telegram
📱instagram
📱facebook
111million so'mlik GRANT
🤩 Akademiyamiz ochilishi munosabati bilan talabalar uchun 111 million so'mlik GRANT e'lon qiladi.
✅ O'ylaymizki ushbu grant ko'pchilik uchun hayrli va manfaatli bo'ladi in sha Alloh
Quyidagi yo'nalishlarni har biri bo'yicha 5tadan 100%li va 5tadan 50%li chegirma taqdim etiladi.
Yo'nalishlar:
#SMM
#Front end
#Back end
#WEB Dizayn
#Grafik Dizayn
Grantni qo'lga kiritish uchun quyidagi manzillar orqali ro'yxatdan o'ting va o'z omadingizni sinab ko'ring🤓
Grant uchun ro'yxatdan o'tish
📞 Tel: +998936866646
Telegram | Instagram | Tik tok
111million so'mlik GRANT
🤩 Akademiyamiz ochilishi munosabati bilan talabalar uchun 111 million so'mlik GRANT e'lon qiladi.
✅ O'ylaymizki ushbu grant ko'pchilik uchun hayrli va manfaatli bo'ladi in sha Alloh
Quyidagi yo'nalishlarni har biri bo'yicha 5tadan 100%li va 5tadan 50%li chegirma taqdim etiladi.
Yo'nalishlar:
#SMM
#Front end
#Back end
#WEB Dizayn
#Grafik Dizayn
Grantni qo'lga kiritish uchun quyidagi manzillar orqali ro'yxatdan o'ting va o'z omadingizni sinab ko'ring🤓
👩💻 Ro'yxatdan o'tish
📞 Tel: +998936866646
Telegram | Instagram | Tik tok
Akademiyamizda mavjud kurslar ro'yxati bilan tanishamiz😉
✅ Biz jamoamiz bilan kelishgan holda, bugungi kunda "Trend"dagi sohalar bo'yicha bilim berishga qaror qildik.
#Front end
#Back end
#SMM
#WEB Dizayn
#Grafik Dizayn
#Mobile Dasturlash
Siz biz bilan yuqoridagi sohalardan birini o'rganishingiz va zamonaviy kasblardan birini egallashingiz mumkin!
👩💻Ro'yxatdan o'tish
📞 Tel: +998936866646
Telegram | Instagram | Tik tok