Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Мегаподборка #all уже в вашей ленте✨
Barter X Change
Кейс-чемпионат, в котором необходимо прорывное решение для рынка криптовалют.
Дедлайн: 20 октября
Альфа-Движ
Фестиваль от Альфа-Банка с лекциями, на котором студенты находят себя.
Дата и место проведения: 16 октября в Санкт-Петербурге
Форум «Наука будущего – наука молодых»
Мероприятие состоится 29 октября - 01 ноября в Самаре.
Дедлайн: 22 октября
Именная Стипендия Андрея Мельниченко
Возможность выиграть ежемесячную поддержку размером от 5 до 25 тысяч рублей за отличные результаты в учебе и/или прорывные проекты и успехи в научной работе.
Дедлайн: 11 октября
Excellence
Ротационная программа развития по направлению «Торговый маркетинг» в компании JTI.
Дедлайн: 20 октября
РСХБ Старт
Оплачиваемая стажировка в Россельхозбанке по направлениям: маркетинг, экономика и финансы, журналистика, юриспруденция, аналитика, ИТ, HR, менеджмент и др.
Дедлайн: не указан
ТеДо амбассадоры
Участники программы будут представлять ТеДо в социальных сетях, на мероприятиях и в учебных заведениях, рассказывать о наших проектах и расширять возможности развития студентов своего университета.
Дедлайн: 20 октября
Кадровый резерв Росмолодежи
Конкурс на включение в кадровый резерв Федерального агентства по делам молодежи по ведущей группе должностей категории «специалисты».
Дедлайн: 23 октября
Не забудь поставить🔥
@youthandcareer
#jlm#haifa и вообще-то #all
Нам в Иерусалиме некуда было вставить какой-то такой вечер перед Новым годом, когда можно сказать спасибо, потанцевать, немножко вытрясти из себя все тревоги и ужасы года. И мы подумали вставить этот вечер в Хайфу. (Потому что хайфские премьеры забрали наши вечера четвергов, нет-нет, мы не жалуемся, мы восхищаемся).
В общем, поговорили с Хайфским театром и с их одобрения зовем всех желающих 28 декабря в 20.00 после спектакля на такую вот общую микро-чеверинку, чтоб поддержать друг друга, и чтоб были силы на следующие месяцы в этом непростом прямо скажем мире.
Несите с собой всякие чипсы, соки и нелепые луки!
Hanamal 45, Haifa
Если кто-то хочет приехать, но далеко и поэтому тревожно, давайте объединяться и ехать вместе.
#all ВНИМАНИЕ! ВЫЕЗД!
#Ушанов В.П., 63 года
Сбор 13.09.2022 с 18:40
Место сбора: Парковка ГМ О'кей, Ленинградское ш.12, г. Гатчина
Координаты: 59.582729, 30.139900
Одежда: город
С собой: Скотч
Координатор: Юрий (Бер)
Инфорг: Евгения (Люцик) 89633459659
Ася (Кицунэ) 89217629852
Тема на форуме: https://vk.cc/cgxAhF
#all ВНИМАНИЕ! ВЫЕЗД!
#Тытюк Л.С. 82 года
Сбор 26.08.2022 с 22:40
Место сбора: проспект Художников, 11Б
Координаты: 60.036519, 30.344742
Одежда: город
С собой: ориентировки, скотч, фонари
Координатор: Юрий (Бер)
Инфорг: Надежда (Химера) 89817556296
Тема на форуме: https://lizaalert.org/forum/viewtopic.php?f=120&t=60397
#all ВНИМАНИЕ! ВЫЕЗД!
#Воробьева (Норба) В.А., 85 лет
Сбор 01.07.2023 с 02:20
Место сбора: ул. Планерная, 57к1
Координаты: 60.021216, 30.224656
Одежда: город
С собой: ориентировки, скотч
Координатор: Юрий (BER)
Инфорг: Ольга (Пальмира) 89992060242
Тема на форуме: https://lizaalert.org/forum/viewtopic.php?f=120&t=68548&p=628374#p628374