Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Слева: Без названия (Этот верзила вчера умер от тоски), 2019
Материалы не помню, похоже, что гуашь, А4
P.S. Я больше не хочу ставить хэштэги #inStock и писать, что я что-то продаю. Я не чувствую, что это товар или продукт. Это что-то другое.
P.P.S. Я хочу смотреть на одного из своих любимых художников Дэвида Парка (David Park) и пытаться понять что такое живопись и как создать великое произведение.
Справа: David Park at work, Photo by Imogen Cunningham
Без названия, 2022
15 x 15 см
материалы точно не помню, кажется, акрил и акварель (на грунтованном холсте)
1. — лицевая сторона
2. — обратная сторона
6000 RUB + доставка
#inStock
Без названия, 2024
12 x 19,5 см
материалы точно не помню, кажется, акварель и тушь (на упаковке от гуаши)
1. — лицевая сторона
2. — обратная сторона
5000 RUB + доставка
#inStock
Chrome Hearts винтажный кошелек со шнурком
Состояние для своих лет неплохое, была сделана профилактика для кожи и фурнитуры
Размер 12х10см. Отсеки под мелочь, купюры и карты
Цена 165.490₽
@mlbmasterpiece
#chromehearts#instock
Chrome Hearts 'Fleur de Lys' Leather Cap
Выполнена из кожи ягненка, классическая трак форма, идеально подходящая под любую погоду. Спереди и сверху фурнитура из серебра .925 пробы.
Винтажная, бирки потерты.
Цена - 94.490р
#instock#chromehearts
@siberiaaccount
Rick Owens 2019 Babel ramones
Один выход для фото, состояние для этого материала отличное
В жизни более светлые, чем на фото
Полный комплект с тоутом и коробкой
Размер 42it
Цена 65.490₽
@mlbmasterpiece
#rickowens#instock