Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
О ЛЮБВИ И НЕНАВИСТИ К НОТАМ, «СЛУХАЧАХ И ЗУБРИЛКАХ» 🙂
Дорогие друзья,
Видео, увы, не скачивается. Так что милости прошу во вражеский фб.
https://www.facebook.com/share/v/1F4KoPHTTd/?mibextid=wwXIfr
#piano
#classicalmusic
#musiceducation
О ПЕДАГОГАХ:
ЮРИЙ ИВАНОВИЧ БАТУЕВ (1934-1997) и «Три мушкетёра»
Признаюсь, не помню точно, когда был его День Рождения.
Он на этом никогда не акцентировал внимания.
Как и на всем остальном, что не касалось занятий. А вот день его ухода помню и поминаю его всегда - 13 сентября.
Юрий Иванович был уникальным для музыкантской среды человеком. Не помню, чтобы он когда-либо говорил местоимение «Я».
Например, «я играл то-то и там-то…» или «мою игру обожал тот-то»…. НИКОГДА.
Свята для него была память об Учителе - Самуиле Евгеньевиче ФЕЙНБЕРГЕ. Вот это имя слышала постоянно.
Как то раз, в самом начале наших занятий (я была в третьем классе), придя в 44й класс Училища при Московской консерватории, начала играть Fis-dur’ную фугу Баха из 1 тома ХТК. Как всегда, наизусть.
По нотам приносить было не принято. Вдруг он вылетел из класса, громко хлопнув дверью… Влетел также стремительно, уже с Борисом Абрамовичем Шацкесом. «Ну давай, сыграй ещё раз». Я начала… «Нет! Как в первый раз, пожалуйста!». Я ничего не понимаю. «Ладно, Юра…» - сказал Шацкес. Оказалось, в первый раз сыграла на полтона ниже. Он не остановил!
Про себя называла их «три мушкетера»: Шацкес, Бунин и Батуев. Всегда помню их вместе - на классных вечерах, в классе друг у друга, в коридоре. Благородные лица, красивые люди, открытые улыбки. Как они радовались успехам учеников друг друга! (И как это нетипично…) На выходных - вместе: лес, грибы, рыбалка. Разговоры - о музыке и учениках. Это, конечно, создавало особую атмосферу.
Когда погиб Шацкес, Юрий Иванович стоял белый, как полотно. Думаю, он до последних дней не оправился от этой потери.
А Виктор Владимирович Бунин со своей лучезарной улыбкой… В нем всегда было что-то нездешнее, ещё дореволюционно-несоветское. Как мы любили ходить на его концерты! Именно так я представляю себе Профессоров прошлого: блестящие манеры, доброжелательность, интеллект.
Сегодня у него День Рождения. Многие Лета!
#piano
#classicalmusic
#MusicEducation