Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
В феврале у нас прошло офлайн-мероприятие — aic.hub по теме «Цифровизация промышленности».
aic.hub — это конференция на стыке митапа и неформальной встречи. На ней выступили приглашенные эксперты из Норникеля, Северсталь, НЛМК, FANUC, JS Cordiant.
Получилось динамично и интересно, а главное — живо. Все-таки совсем другое впечатление, когда участников и ведущих не разделяет экран компьютера 🙌
Сделали небольшое видео, чтобы поделиться атмосферой!
#aichubindustry#aichub
Друзья, не забудьте зарегистрироваться на aic.hub industry, который состоится уже через 4 дня!
Напоминаем, что вас ждёт:
️⚫️ 6 докладов от приглашенных экспертов ведущих промышленных компаний;
🟢 живое общение -- встреча пройдет офлайн, без записи или трансляции;
️⚫️ возможность задать вопросы и узнать больше о цифровизации отрасли.
Ждём вас на дизайн-заводе «Флакон» во вторник, в 11:00.
Для участия зарегистрируйтесь по ссылке: https://hub.aic.ru/
До встречи!
#aic#aichub#aichubindustry
Друзья, встреча по цифровизации промышленности состоится уже через неделю! Успейте зарегистрироваться!
Эксперты:
🟢 Никита Токарев, руководитель продуктового направления в НЛМК, кейс «Цифровая трансформация металлургической компании».
⚫️ Татьяна Кондратьева, начальник управления продвижения продукции «Северсталь», кейс «Сообщество».
🟢 Александр Заносиенко, начальник управления по развитию ит-компетенций и цифровой экспертизы, Норникель, кейс «Развитие цифровой культуры»
⚫️ Анастасия Наджиева, руководитель продаж и развития рынков России и СНГ компании FANUC, кейс: «Умные машины = умное производство»
🟢 Антон Акимов, Director of GR, JSC Cordiant, заместитель председателя Совета ТПП РФ по ВЭД, кейс «Опыт цифрового взаимодействия в рамках механизмов гос. поддержки промышленности»
⚫️ Рафаэл Тонаканян, руководитель центра дизайна и развития продуктов Газпром нефть, кейс «Дизайн-система и система продуктовой аналитики как инструменты цифровизации»
Ссылка: https://hub.aic.ru/
#aichubindustry#aichub#aic