Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
A study of 1,160 men found that nose size can predict penis size. Larger noses were linked to longer penises. Penis length was also related to lower BMI. Penis circumference was linked to body weight and testicle size. Height, weight, foot size, and testosterone were measured, but nose size and BMI were key for length.
This study supports the old myth about nose and penis size.
👃📏🍌🤏
[Read more]
@googlefactss#Science#BodyFacts#MythConfirmed
The lunula is the white, crescent-shaped part at the base of your fingernail. It shows where new nail cells grow.
💅🌙
@googlefactss
#Lunula#Nails#BodyFacts
The glabella is the smooth area of skin between your eyebrows and above your nose. It helps show facial expressions like frowning.
👁️🗨️🙂
@googlefactss
#Glabella#Face#BodyFacts
The axilla is the medical term for your armpit—the area under your shoulder where your arm connects to your body. It contains lymph nodes, sweat glands, and important blood vessels and nerves.
🦴💪
@googlefactss
#Axilla#Armpit#BodyFacts
The canthus is the corner where your upper and lower eyelids meet, near your eye's edge. It helps protect your eyes and drain tears.
👁️💧
[Read more]
@googlefactss
#Canthus#Eye#BodyFacts
Double body fact today:
●The gnathion is the lowest point on the front of your chin, right in the middle. It’s often used as a reference point in anatomy and facial measurements.
●The zygion is the most lateral point of the zygomatic arch (cheekbone) on your face. It’s often used in anthropology and facial measurements to assess facial width.
😊📏
[Source picture]
@googlefactss
#Zygion#FacialAnatomy#Anthropology
#Gnathion#Chin#BodyFacts