Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
📍#location
Найден потрясающе вкусный грузинский ресторан Nene от моих любимых LB Group (ramen, jpan, senti menti)🫒
Это, наверное, самое вкусное и красивое прочтение грузинской кухни, что я вообще ела🤌🏼
Сходили сегодня в Зое📍#location
Была предвзята к ним после Питерской точки, но у нас очень просторно, красиво и вкусно!
Тост с авокадо и лаймовым кремом просто 100/10 🌟
Немного фотоспама с выставки "5 углов" ruarts foundation
📍#location
Очень и очень понравилось!
Когда- нибудь я начну покупать себе современное искусство домой💔
Сходили на выставку коллекционных игрушек
"Super Toys"👀#location
Не сказать, что мне понравилось, хотя ожидания по рилсам были весьма большие!
Видимо, я не выкупаю прикола коллекционных пластиковых фигурок, но кроме зала с макдоналдсом, вообще ничего не зашло, за 1200 за билет тем более... так что можете глянуть фотки, но идти туда не советую🥲
На этой неделе пойду на картинную выставку современного искусства, вот такое я люблю❤️
Вчера сходили в кофейню DNA
📍#location
Как сказала Полина, мы слишком "нормисы" для такого места ахахаха в попытках удивить посетителей, открываются уж слишком странные места [эта кофейня находится в прямом смысле слова в гараже...]☕️
Но даниш банан- пекан был очень вкусный!!!🍰
Как и обещала, делюсь с вами вкусными местами Казани, куда успели и не успели сходить 🥗
📍#location
🥞Завтрак: "Аулак"— аутентичное место на территории Кремля, советую пончик с форелью/кониннй
"Ураган- Сарай" — панорамная кофейня с красивым видом на воду, но это место больше по кофе, чем по еде
📎сохраняли себе еще кофейню "Cups" и кафе "Май" по рекомендации, но не дошли
[ну и Серф со Скуратовым]
🥗Ужин: "Итле" — вкусный приятный ресторан, я тут попробовала впервые мозговую косточку [10/10], и советую ассорти чипа, и салат с копченой кониной [выбор мяса огромный, но мы уже не осилили]
"Tatar" — мой фаворит! Сходили аж два раза за три дня, советую карпаччо из конины, равиоли с кониной и салат с ростбифом из конины [100/10]
📎И рекомендации, куда мы сами не успели сходить: ресторан "Умай" и "Черем"
Этот загс покорил мое сердце💔
Такой красивый и величественный!
📍#location Центр Семьи Казан
На крыше есть смотровая, с которой открывается панорама на город в 360 градусов🤎
Мы приехали в Казань🩷
Давно сюда хотели доехать, и вот удалось на пару дней приехать, погулять, познакомиться с культурой и кухней
#location📍Мечеть Кул- Шариф и 📍Дворец Земледелия [неверояяятно красивый]🤎