Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🪐 The James Webb Space Telescope has uncovered giant, star-forming galaxies such as CEERS-93316 that existed less than 250 million years after the Big Bang. These ancient galaxies are much larger and brighter than scientists expected, revealing that massive cosmic structures began assembling much earlier in the universe’s history than previously thought. ✨
#galaxies⚡#earlyuniverse⚡#jwst⚡#nasa⚡#galaxy⚡#stars⚡#astronomy⚡#universe⚡#cosmos⚡#space
👉subscribe Universe Mysteries
🪐 The James Webb Space Telescope has detected complex organic molecules, specifically polycyclic aromatic hydrocarbons, in the distant galaxy SPT0418-47, more than 12 billion light-years away. These molecules, often linked to the building blocks of life, were formed surprisingly early in the universe, showing that key ingredients for life appeared soon after the first stars and galaxies. ✨
#galaxies⚡#origins⚡#JWST⚡#nasa⚡#galaxy⚡#stars⚡#astronomy⚡#universe⚡#cosmos⚡#space
👉subscribe Universe Mysteries
Телескоп «Джеймс Уэбб» зафиксировал в атмосфере планеты K2-18b вещества, которые на Земле производят только живые организмы — диметилсульфид (DMS) и диметилдисульфид (DMDS).
Учёные из Кембриджского университета осторожно заявили: это самый сильный намёк на биосигнатуру за всю историю наблюдений (уровень ~3σ, или 99,7% статистической уверенности).
Простыми словами: на планете в 124 световых годах от нас, вероятно, существует жизнь — скорее всего, в виде огромного океана с микробами, похожими на земной фитопланктон.
Мы больше не одни.
Земля — не уникальный центр Вселенной.
Человечество — лишь часть огромной космической семьи жизни.
Это только начало новой эры. Космическое одиночество постепенно заканчивается.
#Космос#K2-18b #JWST#ИнопланетнаяЖизнь#МыНеОдни🌌🪐🧬