Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Знакомьтесь: Maunavi — голос Desert Bloom! ✨
Друзья, рады представить вам невероятно талантливую певицу с завораживающим, энергичным голосом — Maunavi! 🎶
17 мая она зажжет сцену Desert Bloom треками, написанными специально для Wakanda party совместно с ее основателем — Cabassa music! 🔥
Готовьтесь подпевать каждой песне и танцевать до упаду! 😉 Берите друзей, чтобы разделить эти незабываемые эмоции в невероятной атмосфере АТС!
Количество билетов ограничено! Не упустите шанс стать частью Desert Bloom. Успейте купить билеты по ссылке:
БИЛЕТЫ 🎟️
#DesertBloom#Wakanda
🔥 Последний шанс урвать билеты на Desert Bloom по выгодной цене! 🔥
Друзья, напоминаем, что уже завтра стоимость билетов на нашу жаркую вечеринку Desert Bloom взлетит! ☀️
17 мая в 23:00 барный кластер АТС превратится в цветущий оазис посреди пустыни. 🌵🌸
Успейте купить билеты по старой цене до конца дня
🎟️ БИЛЕТЫ
#DesertBloom#Wakanda#АТС
Desert Bloom расцветает в самом сердце Петербурга — в АТС! 🌸🌃
Друзья, 17 мая наша пустыня расцветет в уникальном пространстве АТС, расположенном по адресу Некрасова 3-5B. Этот креативный кластер, спрятанный в историческом здании бывшей телефонной станции, станет идеальным оазисом для нашей вечеринки Desert Bloom. ✨
АТС — это место с особой атмосферой, где современный дизайн гармонично сочетается с индустриальным шармом. Кирпичные стены, высокие потолки и просторные залы создают неповторимый фон для музыкальных экспериментов и ярких впечатлений. Здесь каждый найдет свой уголок для танцев, общения и наслаждения музыкой. 😉
Представьте: пульсирующие ритмы афрохауса, живой вокал Maunavi, завораживающая игра Odio Veraxos на пиано, и все это в окружении стильных интерьеров АТС. Разве можно пропустить такое событие? 🔥
Присоединяйтесь к нам 17 мая в 23:00 на Desert Bloom в АТС! Количество билетов ограничено, поэтому не откладывайте покупку на последний момент
БИЛЕТЫ 🎟️
#DesertBloom#Wakanda#АТС
Расцветаем в пустыне!
🔫🔫🔫🔫🔫🔫😀😀😀😀😀
Сегодня, пространство АТС (барный кластер) превратится в цветущий оазис! 🌵🌸
Готовь свой самый яркий наряд и заряжайся энергией пустыни! ⚡️ Тебя ждут: живой вокал Maunavi, завораживающие мелодии Odio Veraxos на пиано и взрывные сеты от топовых диджеев СПб при поддержке Angelov Sound! 🎶
Natica | Cabassa | St. Simple | Dobrin | Black Mamba | Dangelovs
Start : 23:00
Последние билеты
Дресс-код: яркие одежды!
#DesertBloom#Wakanda#яркиевечеринки
Расцветаем в пустыне! Wakanda 8.0: Desert Bloom 🔥
Новая локация, новые впечатления! 17 мая пространство АТС (барный кластер) превратится в цветущий оазис! 🌵🌸
Готовь свой самый яркий наряд и заряжайся энергией пустыни! ⚡️ Тебя ждут: живой вокал Maunavi, завораживающие мелодии Odio Veraxos на пиано и взрывные сеты от топовых диджеев СПб при поддержке Angelov Sound! 🎶
Natica | Cabassa | St. Simple | Dobrin | Black Mamba | Dangelovs
Start : 23:00
Не пропусти ночь, которая запомнится надолго! Билеты уже в продаже:
БИЛЕТЫ
Дресс-код: яркие одежды!
#DesertBloom#Wakanda#яркиевечеринки
⚡️Последние билеты на Desert Bloom! Сегодня Natica открывает вечеринку!⚡️
Не пропустите выступление Natica на Desert Bloom сегодня! Она подготовила для вас особенный музыкальный сет. Последние билеты на вечеринку ждут своих обладателей!
Успейте купить
Сегодня в 23:00, ATC пространство, барный кластер.
#DesertBloom#Wakanda#Natica
💖Desert Bloom: Спасибо за волшебную ночь!💖
Друзья, спасибо, что разделили с нами этот невероятный вечер! Любовь и музыка действительно объединили нас, создав неповторимую атмосферу. Благодарим за ваш позитив, улыбки и энергию, которая зарядила всех вокруг! ✨
Огромное спасибо персоналу, артистам и диджеям, которые вложили душу в этот праздник. Вы невероятны! ❤️
Встречаемся ровно через месяц! Следите за новостями! 😉
#DesertBloom#Спасибо#Музыка#Любовь
⚡️Black Mamba врывается на Desert Bloom!⚡️
Встречайте резидента Wakanda — DJ Black Mamba! 17 мая она зарядит танцпол Desert Bloom взрывной смесью афро-хауса и indie dance! 🔥 Готовьтесь к незабываемой ночи!
🎟️ Билеты по лучшей цене только до завтра:
БИЛЕТЫ 🎟️
Промокод: Ultra
#DesertBloom#Wakanda#BlackMamba#AfroHouse#IndieDance