Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Bonfire Night (Guy Fawkes Night) is held on 5 November in the UK to remember the failure of the 1605 Gunpowder Plot, when a group including Guy Fawkes planned to blow up the Houses of Parliament and kill King James I.
The plot was discovered and prevented, and people celebrated with bonfires and fireworks. Today the evening is marked by community bonfires, firework displays, and sometimes effigies of “Guy” burned on the fire. Many children learn the traditional rhyme: “Remember, remember the 5th of November / Gunpowder, treason and plot.”
[Read more here]
@googlefactss
#UnitedKingdom#GuyFawkes#History
Guy Fawkes, part of the Gunpowder Plot to blow up Parliament and kill King James I, was executed in London on January 31, 1606. 💥🏛️
[Read more]
@googlefactss
#GuyFawkes#GunpowderPlot#History#Facts
Máscara V de Vendetta #VdeVendetta#GuyFawkes#MáscaraGuyFawkes
https://www.milideaspararegalar.es/producto/mascara-v-de-vendetta/
💻www.milideaspararegalar.es
🎆Ночь Гая Фокса: самая «взрывная» традиция Британии
📆 Каждое 5 ноября Великобритания озаряется фейерверками, кострами и необычным ритуалом — сожжением чучел неудавшегося революционера XVII века.
📜 В 1605 году Гай Фокс и его соратники задумали взорвать здание парламента и убить короля Якова I, но заговор провалился: Фокс был пойман с 36 бочками пороха в подвале под парламентом.
🎇 Со временем День Гая Фокса (или Ночь костров) превратилась в любимый народный праздник. Люди собираются на фейерверки, угощаются яблоками в карамели или горячей закуской, а на кострах сжигают чучела — «Гаев».
🇬🇧 Это по-настоящему британский подход — помнить историю, но не настолько серьёзно, чтобы не наслаждаться горячим шоколадом у костра в холодный ноябрьский вечер.
Ночь костров напоминает о том, как Британия проходила через религиозные и политические потрясения — не стирая трудные страницы, а сохраняя память и двигаясь вперёд вместе.
А что выдумаете о таком подходе к празднованию подобных событий❓
#BonfireNight#GuyFawkes#BritishCulture#UKTraditions