Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🇺🇿Biznes va tadbirkorlik oliy maktabining mutaxassisi xalqaro akkreditatsiya masalalari haqida so‘zlab berdi
✅ Axadjon Askarov, O‘zbekiston Vazirlar Mahkamasi huzuridagi Biznes va tadbirkorlik oliy maktabining akkreditatsiya masalalari bo‘yicha mutaxassisi, xalqaro tashkilotlar akkreditatsiyasini olish jarayonlari hamda ta’lim tizimidagi o‘zgarishlar haqida so‘zladi.
📎https://www.spot.uz/oz/2024/04/10/tadbirkorlik-oliy-maktabi/
#GraduateSchool#Accreditation#World#Ranking
Web-site | Telegram | Facebook | Instagram
@TopUsersBot
Qué puede hacer este bot?
¡Este bot contará los mensajes de grupo, creará clasificaciones y tablas de clasificación para grupos! Más mensajes significa más karma.
Idioma: Inglés
(visto en @BotsGram_cu)
#karma, #ranking, #ranking, #leaderboard
🇺🇿Biznes va tadbirkorlik oliy maktabiO‘zbekistonning TOP-20 “aql markazlari” reytingida
“Yuksalish” harakati tomonidan mamlakatimizda faoliyat yuritayotgan tahlil markazlarining yillik reytingi yangilandi.
Bu yilgi reyting tahlil markazlarining rasmiy veb-saytlari, ijtimoiy tarmoqlardagi faolligi, tadqiqotlari, tashqi manbalarda iqtibos keltirish darajasi hamda mustaqil ekspertlar baholari asosida shakllantirildi.
👉Batafsil
🇷🇺RU
🇬🇧ENG
#GSBE#GraduateSchool#YuksalishMovement#Ranking#TOP20
🔝Web-site |🔝Facebook | 🔝Instagram | 🔝Youtube
@GameOfThronesGameBot
Qué puede hacer este bot?
Viste Juego de Tronos? Entonces sabes exactamente cuál de los personajes está vivo y quién está muerto.
Idioma: Inglés
(visto en @BotsGram_cu)
#game, #world, #ranking, #series
@Axenia_Bot
Qué puede hacer este bot?
Este bot puede contar los puntos de karma en grupos. Escriba '+' para subir o '-' para reducir puntos al usuario que responde.
Idioma: Inglés, Ruso, Ucraniano, Uzbeco, Turco
(visto en @BotsGram_cu)
#karma, #ranking, #points, #toplist, #stats, #statistic, #inline, #levelup, #group, #top, #analytic, #statistics, #statistics, #member, #member, #groups, #activity