Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
✅ 10 HEART MANDALAS🆓
• Personal Use License.
#coloringpage#heart#mandala#mandalas
◆═════● PREMIUM ●═════◆
⭐HEART MANDALAS:Coloring Book PDF Ready To Print.
• 31 Heart mandalas.
• Test Color Page.
• Print-Ready PDF 8,625x11,250 in.
• PNG 4025 x 5500 px High-quality.
• Remove watermark.
• Commercial Use License.
7.99€4.99€
👉Buy Now🛒
✅ 10 FLOWERS MANDALAS 🆓
• Personal Use License.
#coloringpage#flowers#mandalas#mandala#flower
◆═════● PREMIUM ●═════◆
⭐FLOWERMANDALAS:Coloring Book PDF Ready To Print.
• 30 Flower mandalas.
• Test Color Page.
• Print-Ready PDF 8,625x11,250 in.
• PNG 4025 x 5250 px High-quality.
• Remove watermark.
• Commercial Use License.
5.99€4.99€
👉Buy Now🛒
✅ 10 CAT MANDALAS🆓
• Personal Use License.
#coloringpage#cat#mandalas#animal#wild#animalmandalas#mandala
◆═════● PREMIUM ●═════◆
⭐CATMANDALAS: Coloring Book PDF Ready To Print.
• 30 Cat Mandalas.
• 2 Book Covers Full Color.
• Test Color Page.
• Free Extras: 2 Dog Mandalas.
• Print-Ready PDF 8,625x11,250 in.
• PNG x2: Original and Light.
• 4025 x 5250 px High-quality.
• Remove watermark.
• Commercial Use License.
7.99€4.99€
👉Buy Now🛒
✅ 10 DOG MANDALAS🆓
• Personal Use License.
#coloringpage#dog#mandalas#animal#wild#animalmandalas#mandala
◆═════● PREMIUM ●═════◆
⭐DOGMANDALAS: Coloring Book PDF Ready To Print.
• 30 Dog Mandalas.
• Book Cover Full Color.
• Test Color Page.
• Free Extras: 2 Cat Mandalas.
• Print-Ready PDF 8,625x11,250 in.
• PNG x2: Original and Light.
• 4025 x 5250 px High-quality.
• Remove watermark.
• Commercial Use License.
7.99€4.99€
👉Buy Now🛒
✅ 10 OWL MANDALAS🆓
• Personal Use License.
#coloringpage#owl#mandalas#animal#wild#animalmandalas#mandala
◆═════● PREMIUM ●═════◆
⭐OWLMANDALAS: Coloring Book PDF Ready To Print.
• 40 Owl Mandalas.
• Book Cover Full Color.
• Test Color Page.
• Free Extras: 2 Wolf Mandalas.
• Print-Ready PDF 8,625x11,250 in.
• PNG x2: Original and Light.
• 4025 x 5250 px High-quality.
• Remove watermark.
• Commercial Use License.
7.99€5.99€
👉Buy Now🛒
✅ 10 LION MANDALAS🆓
• Personal Use License.
#coloringpage#lion#mandalas#animal#wild#animalmandalas#mandala
◆═════● PREMIUM ●═════◆
⭐LIONMANDALAS: Coloring Book PDF Ready To Print.
• 30 Lion Mandalas.
• Book Cover Full Color.
• Test Color Page.
• Free Extras: 2 Tiger Mandalas.
• Print-Ready PDF 8,625x11,250 in.
• PNG x2: Original and Light.
• 4025 x 5250 px High-quality.
• Remove watermark.
• Commercial Use License.
7.99€4.99€
👉Buy Now🛒
✅10 WOLF MANDALAS🆓
• Personal Use License.
#coloringpage#wolf#mandalas#animal#wild#animalmandalas#mandala
◆═════● PREMIUM ●═════◆
⭐WOLF MANDALAS: Coloring Book PDF Ready To Print.
• 40 Wolf Mandalas.
• Book Cover Full Color.
• Test Color Page.
• Free Extras: 2 Owl Mandalas.
• Print-Ready PDF 8,625x11,250 in.
• PNG x2: Original and Light.
• 4025 x 5250 px High-quality.
• Remove watermark.
• Commercial Use License.
7.99€5.99€
👉Buy Now🛒
✅ 10 UNICORN MANDALAS🆓
• Personal Use License.
#coloringpage#unicorn#mandala#mandalas#animal#unicorns
◆═════● PREMIUM ●═════◆
⭐UNICORN MANDALAS:Coloring Book PDF Ready To Print.
• 39 Unicorn mandalas.
• Test Color Page.
• Print-Ready PDF 8,625x11,250 in.
• PNG 4250 x 5100 px High-quality.
• Remove watermark.
• Commercial Use License.
9.99€7.99€
👉Buy Now🛒