Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Всем привет. Все вы знаете что мне предстоит просидеть еще 12 дней в бане, я разработал план действий чтобы не сидеть афк.
1. Мы уже записали ролик с одним ютубером миллионником который должен скоро выйти, поэтому ожидайте.
2. Сегодня я создал ютуб канал, где в скором времени выйдет ролик где я буду отвечать на ваши вопросы ( пост с вопросами будет чуть позже ), покажу румтур квартиры, как я живу и что я делаю вне стримов, думаю вам будет интересно, ну а потом если будет нормальный актив то сделаю видео «один день глазами трайда», вроде тоже прикольно должно получиться.
3. Сегодня создам кик и на нем будем просто веселиться и играть в контру пока твич в бане, все кому кайф зайдут, за онлайн на зеленом не фонюсь.
Из хороших новостей которые уже есть:
1. Я начал высыпаться пока я нахожусь в бане, потому что делать абсолютно нечего.
2. Мы с Никитой подняли всех на уши и пытаемся всеми усилиями разбанить мне твич досрочно, но это очень сложная задача.
3. Есть устные договоренности с рекламодателем, если все будет хорошо, то я проведу турнир 2х2 на моем канале. ( daibog )
Всем хорошего вечера, скоро увидимся, духом не падаем, все еще впереди. #nevergiveup
📣 16 февраля - акции памяти Алексея Навального
16 февраля в сообществах РАДР в США пройдут акции памяти Алексея Навального - лидера, героя, мученика. Мы вспомним его самоотверженность, его упорство в борьбе со злом, его веру в будущее.
"Все, что нужно для торжества зла — это бездействие добрых людей. Поэтому бездействовать не надо."
🌐Boston, MA
🕖 3:00 PM
📍 The Massachusetts State House, 24 Beacon St, Boston, Massachusetts
🌐Chicago, IL
🕖 4:00 PM
📍 The Wrigley Building, 400 N Michigan Ave, Chicago, IL
🌐Denver, CO
🕖 3:30 PM
📍 Holy Transfiguration of Christ Orthodox Cathedral Denver, 349 E 47th Ave, Denver, CO
🌐Miami, FL
🕖 3:00 PM
📍 Orthodox Cathedral of St. Matrona of Moscow, 113 S Federal Hwy, Dania Beach, FL
🌐New York, NY
🕖 5:00 PM
📍 The Consulate General of Russia in New York City, 9 East 91st St, New York, NY
🌐Sacramento, CA
🕖 4:00 PM
📍 The California State Capitol, 1315 10th St, Sacramento, CA
🌐San Diego, CA
🕖 5:00 PM
📍 The Bea Evenson Fountain, 1549 El Prado, San Diego, CA
🌐Washington, DC
🕖 1:00 PM
📍 The White House, 1600 Pennsylvania Ave NW, Washington, DC
#Navalny#Навальный#nevergiveup#FreePoliticalPrisoners
🇺🇿 Post 47 — Bort Kuzatuchchisi orzuyim ✈️❤️
Har safar Dubai aeroportiga kelganimda, shu rasmga ko‘zim tushadi. U menga Emirates assessmentidan o‘tolmaganimni eslatadi, lekin shuningdek, yanada kuchliroq orzu va ishtiyoqni uyg‘otadi.
Lekin yaxshi bilaman, har bir muvaffaqiyatsizlik — bu yangi imkoniyat, har bir sinov — o‘sish uchun qadam.
Bu rasm menga “balki keyingi safar” degan umid va ilhom beradi. Yo‘l davom etmoqda….
#NeverGiveUp#StrongerEveryDay#DreamBig
#EverythingILived