Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
👷♀️Ikki sathli KNAUF-tutashtirgich ishonchli vosita, u shift konstruksiyalarining pishiq va mustahkam boʻlishini taʼminlaydi.
Yuk koʻtaruvchi profillarni asosiy profillarga mahkamlashga moʻljallangan boʻlib, P 112 osma shiftida 60x27 shift profili bilan birgalikda ishlatiladi.😊
Qalinligi 0,9 mm.
100 donadan qadoqlangan.
Sifatli materiallardan foydalaning.
KNAUFʼdan foydalaning.
- - - - -
👷♀️КНАУФ – соединитель двухуровневый надежный помощник, благодаря которому конструкция потолочных систем будет прочной и крепкой.
Предназначен для крепления несущих профилей к основным и применяется совместно с профилем потолочным 60х27 в подвесном потолке П112. 😊
Толщина 0,9 мм
Упакован по 100 шт.
Используйте качественные материалы.
Используйте КНАУФ.
#knaufuzbekistan
#knaufqoplama
#гипсокартон
#knaufprofil
#нониус
#p112
Biz basketbol taxtalarini ishlab chiqarmaymiz! 🏀
Ammo bu ham qo'limizdan keladi😊
KNAUF - baquvvat konstruksiyalar👌
- - - - -
Не делаем баскетбольные щиты🏀
Хотя могли бы😊
КНАУФ - прочные конструкции👌
————-
Сергей Монарх
Сайт | Facebook | Instagram
#knaufuzbekistan#komplekttizimlari
#Knaufqoplama#Кнауфлист
#гипсокартон#gipskarton
#sapfir
Не Ауф, а КНАУФ👍
Так рождаются шедевры!
- - - - -
Auf emas, KNAUF👍
Сайт|Facebook|Instagram
#knaufuz#кнауфузбекистан
#ауф#fugen#rotband#profil
#knaufqoplama#haha
👷♀️Ikki sathli KNAUF-tutashtirgich ishonchli vosita, u shift konstruksiyalarining pishiq va mustahkam boʻlishini taʼminlaydi.
Yuk koʻtaruvchi profillarni asosiy profillarga mahkamlashga moʻljallangan boʻlib, P 112 osma shiftida 60x27 shift profili bilan birgalikda ishlatiladi.😊
Qalinligi 0,9 mm.
100 donadan qadoqlangan.
Sifatli materiallardan foydalaning.
KNAUFʼdan foydalaning.
👉Sotuv bo'limi
- - - - -
👷♀️КНАУФ – соединитель двухуровневый надежный помощник, благодаря которому конструкция потолочных систем будет прочной и крепкой.
Предназначен для крепления несущих профилей к основным и применяется совместно с профилем потолочным 60х27 в подвесном потолке П112.😊
Толщина 0,9 мм
Упакован по 100 шт.
Используйте качественные материалы.
Используйте КНАУФ.
👉Отдел сбыта
YouTube
Instagram
Facebook
#knaufuzbekistan
#knaufqoplama
#betokontakt
#гипсокартон
#knaufprofil
#gruntovka
#нониус
#p112
👷♀️Ikki sathli KNAUF-tutashtirgich ishonchli vosita, u shift konstruksiyalarining pishiq va mustahkam boʻlishini taʼminlaydi.
Yuk koʻtaruvchi profillarni asosiy profillarga mahkamlashga moʻljallangan boʻlib, P 112 osma shiftida 60x27 shift profili bilan birgalikda ishlatiladi.😊
Qalinligi 0,9 mm.
100 donadan qadoqlangan.
Sifatli materiallardan foydalaning.
KNAUFʼdan foydalaning.
👉Sotuv bo'limi
- - - - -
👷♀️КНАУФ – соединитель двухуровневый надежный помощник, благодаря которому конструкция потолочных систем будет прочной и крепкой.
Предназначен для крепления несущих профилей к основным и применяется совместно с профилем потолочным 60х27 в подвесном потолке П112.😊
Толщина 0,9 мм
Упакован по 100 шт.
Используйте качественные материалы.
Используйте КНАУФ.
👉Отдел сбыта
YouTube
Instagram
Facebook
#knaufuzbekistan
#knaufqoplama
#betokontakt
#гипсокартон
#knaufprofil
#gruntovka
#нониус
#p112
Auf emas, KNAUF👍
- - - - -
Не Ауф, а КНАУФ👍
#knaufuzbekistan#littos
#indiramiftahova#profil
#rotband#fugen
#betokontakt
#knaufuz#кнауфузбекистан
#ауф#profil
#sapfir
#knaufqoplama#haha