Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
✨ Новости! ✨
⠀
🌸 28 и 29 апреля 🌸
⠀
Собираемся на самый уютный ЛАМБАДА-маркет в здании «Первой Образцовой типографии»!
🏢 Адрес: Ул. Пятницкая, д. 71/5, строение 1.
⠀
Мы участвуем! 🌿🏠
От нас: ароматические диффузоры, спреи для дома и белья, ароматические свечи из натурального соевого воска, саше для белья и ящичков, подарочные ароматические наборы BAGO home - все, что нужно для вашего уютного дома и позитивного настроения! 💫
⠀
И это еще не все! Вас ждут классная площадка, уникальные коллаборации и специальные зоны, а также фудкорт, чтобы порадовать свои вкусовые рецепторы! 🍔🥂
⠀
Не упустите шанс открыть дверь в каникулы и провести заключительные апрельские выходные вместе с нами! 💖
⠀
🕛 Когда?
28 и 29 апреля
12:00-21:00
⠀
📍 Где?
Первая Образцовая типография
ул. Пятницкая, д. 71/5, строение 1
⠀
Ждем именно вас! 🌟
⠀
#BAGOhome#ЛАМБАДАмаркет#уютныйдом#ароматыдлядома#lambadamarket#lmbd
Друзья! Уже в эти выходные встречаемся с вами на весеннем "Ламбада-маркете"!🌿🌸🌱@lambadamarket
22 и 23 апреля будем вместе с вами радоваться весне, красивым и талантливым людям, особенным вещам, вкусной еде, хорошей музыке и восхитительным ароматам для дома от BAGO home💜@bago.official
Приходите! Очень ждем нашей встречи!
От нас, как всегда, чистые и настоящие ароматы на растительной основе: ароматические диффузоры, спреи для дома и белья, аромасаше и ароматические свечи из 100% соевого воска высочайшего качества с добавлением кокосового масла. Да еще и скидки 25% на все это великолепие! А от вас - улыбки!🤗
Пространство ПОЛЕ, 3-я ул. Ямского Поля, 2, корп. 25
ВХОД СВОБОДНЫЙ
#lambada#labmadamarket#lmbd#lmbdmrkt#bagohome#ароматыдлядома#аромадиффузор#диффузоры#ароматы#скидки#весна#местовстречи#поле#ламбада#ламбадамаркет#багохоум#аромасвечи#соевыесвечи#свечиизсоевоговоска#соевыйвоск#ручнаяработа#ярмарка#ароматдома#аромат#ароматерапия#goodmood#goodvibes#goodvibesonly#красота