Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Patrick Jones
художник, преподаватель из Северной Ирландии.
Работает с большинством крупных издательств и кинокомпаний в жанрах Sci-fi и fantasy. Преподает рисунок, анатомию, проводит мастер-классы.
#anatomy#анатомия
@anatomyarthub
#анатомия#anatomy
Если вы вытянете руки, то их длина будет равна вашему росту.
If you stretch out your arms, then their length will be equal to your height.
@anatomyarthub
#анатомия#anatomy
Альбрехт Дюрер, 1471-1528
Конструктивный этюд с целью
определения пропорций к
изображению Адама (1513)
Дрезденский альбом зарисовок
Среди художников Возрождения бытовал широко распространенный взгляд на то, что красоту можно реализовать с помощью математики, создав идеальные пропорции. Однако Дюрер вскоре отказался от этой идеи, найдя в отдельной человеческой фигуре закономерности языка форм. Он назвал это “сравнительным рифмованием”.
Albrecht Durer, 1471-1528
A constructive study with a purpose
proportions to depiction of Adam (1513)
Dresden sketchbook Among the artists of the Renaissance there were widely held view that that beauty can be realized with using mathematics, creating ideal
proportions. However, Dürer soon
abandoned this idea, finding in a separate human figure patterns
form language. He called it "comparative rhyming".
@anatomyarthub
#анатомия#anatomy
В области шейного отдела вы обычно можете рассмотреть область седьмого шейного позвонка. Если свести лопатки вместе, позвоночник между ними будет виден как углубление (А). Когда мышца расслаблена, можно заметить несколько торчащих наружу позвонков (B).
In the cervical area, you can usually see the area of the seventh cervical vertebra. If you bring the shoulder blades together, the spine between them will be visible as a deepening (A). When the muscle is relaxed, several vertebrae can be seen sticking out (B).
@anatomyarthub
🌎 Octopus hearts work overtime—these sea creatures have three hearts! Two pump blood to the gills for oxygen, while the third keeps it flowing to the rest of the body. When an octopus swims, the main heart actually pauses, which is why octopuses prefer crawling to swimming for long distances. ✨
#octopus⚡#anatomy⚡#ocean
👉subscribe Interesting Planet