Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
👨🏫👩🏫 • Sobir Alishayevning doktorlik (PhD) dissertatsiyasi himoyasi bo‘lib o‘tadi
💻Batafsil va ZOOMga havola...
👨🏫👩🏫 • Состоится защита докторской диссертации (PhD) Собира Алишаева
💻Подробнее и ссылка на ZOOM...
👨🏫👩🏫 • Defense of the doctoral dissertation (PhD) of Sobir Alishaev will take place
💻More & ZOOM-link...
⚫️🔴🔵🟣⚪️@tsulofficial#phd#himoya#защита#defense
👨🏫👩🏫 • Muzaffar Nodirovning doktorlik (PhD) dissertatsiyasi himoyasi bo‘lib o‘tadi
💻Batafsil va ZOOMga havola...
👨🏫👩🏫 • Состоится защита докторской диссертации (PhD) Музаффара Нодирова
💻Подробнее и ссылка на ZOOM...
👨🏫👩🏫 • The defense of the doctoral dissertation (PhD) of Muzaffar Nodirov will take place
💻More & ZOOM-link...
👍❤️📩@tsulofficial#phd#himoya#защита#defense
👨🏫👩🏫 • Ulzana Raximovaning doktorlik (PhD) dissertatsiyasi himoyasi bo‘lib o‘tadi
💻Batafsil va ZOOMga havola...
👨🏫👩🏫 • Состоится защита докторской диссертaции (PhD) Рахимовой Ульзаны Хамидуллаевны
💻Подробнее и ссылка на ZOOM...
👨🏫👩🏫 • The defense of the doctoral dissertation (PhD) of Ulzana Rakhimova will take place
💻More & ZOOM-link...
👍❤️📩@tsulofficial#phd#himoya#защита#defense
👨🏫👩🏫 • Sarbon Uralovning doktorlik (PhD) dissertatsiyasi himoyasi bo‘lib o‘tadi
💻Batafsil va ZOOMga havola...
👨🏫👩🏫 • Состоится защита диссертации (PhD) Сарбона Уралова
💻Подробнее и ссылка на ZOOM...
👨🏫👩🏫 • The defense of the doctoral dissertation (PhD) of Sarbon Uralov will take place
💻More & ZOOM-link...
👍❤️📩@tsulofficial#phd#himoya#защита#defense
👨⚖️👩⚖️ • Dildora Kamalovaning doktorlik (DSc) dissertatsiyasi himoyasi bo‘lib o‘tadi
💻Batafsil va ZOOMga havola...
👨⚖️👩⚖️ • Состоится защита докторской диссертации (DSc) Дилдоры Камаловой
💻Подробнее и ссылка на ZOOM...
⚫️🔴🔵🟣⚪️@tsulofficial#DSc#himoya#защита#defense
ЭКО кондиционер для белья Mayeri All care - это европейский продукт, созданный по новейшим технологиям!
Бережно ухаживающий за всеми типами тканей: cмягчает ткани, снимает статическое электричество.
Без красителей, ароматизаторов, фосфатов. Экологически безопасный продукт для Вас, Вашей семьи и нашей планеты.
#ополаскиватель#mayeri#здоровье#польза#забота#для#белья
Цена: 42 000 сум
Арт: F351
———————————-
ECO mato yumshatuvchi Mayeri All Сare geli - bu eng yangi texnologiyalar yordamida yaratilgan Yevropa mahsulotidir!
Barcha turdagi matolarga ehtiyotkorlik bilan g'amxo'rlik qilish: matolarni yumshatadi, statik elektrni olib tashlaydi.
Bo'yoqlar, xushbo'y moddalar, fosfatlarsiz. Siz, oilangiz va sayyoramiz uchun ekologik toza mahsulot.
#chayuvchi#mayeri#sogliq#foyda#himoya#kiyim#uchun
Narx: 42 000 so'm
Art: F351