Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
😄Great
➖➖➖➖➖➖
🔘Great is an adjective to talk about something being very big, very important or very good.
🔜We've seen great improvement in the last 10 years.
🔜This is the great question of our time.
🔜This is just a great video!
🔘We can use great with adjectives, particularly those related to large quantities or sizes to emphasise them.
🔜He caught a great big fish!
🔜They have a great many properties all over the world.
🔘Sometimes we use great as a noun, to talk about the people or things that we think are particularly important or successful.
🔜As a singer, she's one of the greats.
🔜He's one of the all-time greats of basketball.
🔜You need to study the greats of literature.
#Great👨🏫@America
➖➖➖➖➖➖➖➖➖➖➖➖
🆕 Crypto News @Money
😁 Crypto Game @Egame
🇺🇸 US News @America
🇯🇵 Japan News @Japan
🇦🇪 UAE News @Dubai
▶️ Popular Movies @Videos
😜 Best Funny Video @Funnys
Greta Thunberg said that Israel sent back her luggage with the inscriptions “Greta is a whore” and an image of penis.
There is no evidence that this was drawn by the Israelis.
Do you agree that Greta is a whore?
#great#whore#israel
👂More on Trump's Ear ⚠️
🔥 Fidoyi ustozlar taqdirlandi!
🇺🇿 Barcha rivojlangan mamlakatlar, jumladan AQSH, Buyuk Britaniya, Yaponiya, Germaniya, Janubiy Koreya, Singapurda nodavlat ta’lim muassasalarining o‘rni beqiyos. Ta’lim tizimiga baho beruvchi, dunyo tan olgan oliy o‘quv muassasalarining jahon reytinglarida ham nodavlat ta’lim muassasalari eng yuqori o‘rinlarni egallab kelmoqda.
🚫 O‘zbekiston Respublikasi Prezidentining 2017 yil 15 sentyabrdagi “Nodavlat ta‘lim xizmatlari ko‘rsatish faoliyatini yanada rivojlantirish chora-tadbirlari to‘g‘risida”gi PQ-3276-son Qaroriga asosan Finlandiya davlati tajribasi asosida faoliyat yuritayotgan Respublika “Diagnostik test sinov” nodavlat ta’lim muassasasi tomonidan 2024 yil 24 iyul kuni “Ta’lim fidoyisi” ko‘krak nishoni ta’sis etildi.
📎 Shu maqsadda, O‘zbekiston Respublikasi Konstitutsiyasi qabul qilinganligining 32 yilligi munosabati bilan O‘zbekiston Respublikasi Vazirlar Mahkamasi huzuridagi Biznes va tadbirkorlik oliy maktabida faoliyat yuritayotgan tajribali, professional, yuqori malakaga ega bo‘lgan professor o‘qituvchilari “Ta’lim fidoyisi” ko‘krak nishoni bilan taqdirlandi.
#GraduateSchool#Meeting#Teacher#Great
🔝Web-site |🔝Facebook | 🔝Instagram | 🔝Youtube