Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🟢¡SIMPLEMENTE SON EL MEJOR EQUIPO DEL MUNDO!🔥
🇷🇺TEAM SPIRIT demostró por qué es considerado DE LOS MEJORES DE LA HISTORIA y se detonó sin piedad a la escuadra de 🇯🇴Falcons en la GRAN FINAL para reclamar la corona de CAMPEÓN de la 🏆Esport World Cup 2025 👀
🔹🇷🇺TEAM SPIRIT, técnicamente, es el primer equipo BICAMPEÓN de la EWC. (En 2023 ganaron la Riyadh Masters, que es básicamente el mismo torneo con otro nombre) 🤯
Ya tienen 2 The Internationals, ahora tienen 2 EWC. ¿ESTAMOS ANTE EL NACIMIENTO DEL MEJOR EQUIPO DE LA HISTORIA DEL DOTA? 🤔
#esports#dota2#EWC
@Info_Dota2
¡Aquí están los 10 mejores equipos en el ranking para EL TORNEO MILLONARIO DE LA Esports World Cup 🔥 solo los 8 primeros están invitados
Aún queda la #dreamleague26 para seguir sumando..
#Dota2#EWC
@Info_Dota2
😃Запускаем новый конкурс «МЕДВЕДЬ С EWC СТРИТ» 😃
🏆 Счастливчики получат игровую валюту в свою любимую игру или баланс на Steam:
1 место — Игровую валюту на сумму в 25 000 рублей;
2 место — Игровую валюту на сумму в 15 000 рублей;
3 место — Игровую валюту на сумму в 10 000 рублей;
4-5 места — Игровую валюту на сумму в 5 000 рублей;
💰 Бонус к призовому фонду:
Каждые 100 реакций мы добавляем по 500 рублей к каждому призовому месту!
🎬 Как принять участие?
1️⃣ Напиши слова напутствия Медведям на EWC 2025 (количество сообщений не ограничено);
2️⃣ Записанные кружки идут в зачет;
3️⃣ Чем больше реакций — тем больше призовой фонд!
📅 Прием ответов — 13 апреля 2025 в 22:59 МСК.
🏆 Объявление победителей 14 апреля в 14:00 МСК.
🎲 Победители определяются случайным образом. Чем больше кружков — тем выше шанс!
📁Правила конкурса
Зверя нет сильней Медведя! Кидай кружок и пусть именно тебе повезёт! 👊
#GOGOVP#EWC#EWC2025
😃Запускаем новый конкурс «МЕДВЕДЬ С EWC СТРИТ» 😃
🏆 Счастливчики получат игровую валюту в свою любимую игру или баланс на Steam:
1 место — Игровую валюту на сумму в 25 000 рублей;
2 место — Игровую валюту на сумму в 15 000 рублей;
3 место — Игровую валюту на сумму в 10 000 рублей;
4-5 места — Игровую валюту на сумму в 5 000 рублей;
💰 Бонус к призовому фонду:
Каждые 100 реакций мы добавляем по 500 рублей к каждому призовому месту!
🎬 Как принять участие?
1️⃣ Напиши слова напутствия Медведям на EWC 2025 (количество сообщений не ограничено);
2️⃣ Записанные кружки идут в зачет;
3️⃣ Чем больше реакций — тем больше призовой фонд!
📅 Прием ответов — 13 апреля 2025 в 22:59 МСК.
🏆 Объявление победителей 14 апреля в 14:00 МСК.
🎲 Победители определяются случайным образом. Чем больше кружков — тем выше шанс!
📁Правила конкурса
Зверя нет сильней Медведя! Кидай кружок и пусть именно тебе повезёт! 👊
#GOGOVP#EWC#EWC2025
😃Запускаем новый конкурс «МЕДВЕДЬ С EWC СТРИТ» 😃
🏆 Счастливчики получат игровую валюту в свою любимую игру или баланс на Steam:
1 место — Игровую валюту на сумму в 25 000 рублей;
2 место — Игровую валюту на сумму в 15 000 рублей;
3 место — Игровую валюту на сумму в 10 000 рублей;
4-5 места — Игровую валюту на сумму в 5 000 рублей;
💰 Бонус к призовому фонду:
Каждые 100 реакций мы добавляем по 500 рублей к каждому призовому месту!
🎬 Как принять участие?
1️⃣ Напиши слова напутствия Медведям на EWC 2025 (количество сообщений не ограничено);
2️⃣ Записанные кружки идут в зачет;
3️⃣ Чем больше реакций — тем больше призовой фонд!
📅 Прием ответов — 13 апреля 2025 в 22:59 МСК.
🏆 Объявление победителей 14 апреля в 14:00 МСК.
🎲 Победители определяются случайным образом. Чем больше кружков — тем выше шанс!
📁Правила конкурса
Зверя нет сильней Медведя! Кидай кружок и пусть именно тебе повезёт! 👊
#GOGOVP#EWC#EWC2025
Леонардо ДиКаприо оскуфел и выучил русский язык в новом видео Virtus.pro
Смотрите сами, реакты проставьте и раздайте стиля активом👇
https://t.me/virtuspro/16044
#EsportsWorldCup#EWC25#EWC#GOGOVP
🎧VIRTUS.РRO X WIPO — ЭТО НЕ ПРОСТО ИГРА
Мы сделали крутой клип к нашему совместному с Wipo треку специально для Esports World Cup2025🎧
Скорее слушай + смотри что у нас получилось 🎧
🎬YouTube| 🖥VK
#EsportsWorldCup#EWC2025#EWC#GOGOVP
Приближается крупнейший турнир года!
Esports World Cup 2025 примет у себя лучшие составы R6 Siege, чтобы определить сильнейших! Не пропустите зрелищные матчи и возможность поддержать любимые команды 👍
Хотите стать частью главного киберспортивного праздника лета? Поторопитесь приобрести билеты со скидкой 15% по промокоду VIRTUS15 на сайте: https://webook.com/en/events/esports-world-cup-2025-tickets
#EsportsWorldCup#EWC2025#EWC#GOGOVP
Приближается крупнейший турнир года!
Esports World Cup 2025 примет у себя лучшие составы R6 Siege, чтобы определить сильнейших! Не пропустите зрелищные матчи и возможность поддержать любимые команды 👍
Хотите стать частью главного киберспортивного праздника лета? Поторопитесь приобрести билеты со скидкой 15% по промокоду VIRTUS15 на сайте: https://webook.com/en/events/esports-world-cup-2025-tickets
#EsportsWorldCup#EWC2025#EWC#GOGOVP
Самый ожидаемый киберспортивный ивент уже совсем рядом!
Успей купить билеты на Esports World Cup 2025 в Эр-Рияде🇸🇦
Используй наш промокод VIRTUS15 и получи скидку 15%: https://webook.com/en/events/esports-world-cup-2025-tickets
Не упусти возможность увидеть самые жаркие игры 🔥
#EsportsWorldCup#EWC2025#EWC#GOGOVP
Ты всегда хотел узнать о киберспорте, тренировках или личной жизни игроков Virtus.prо? 🤩
Да? Тогда задавай любой интересующий тебя вопрос под постом с видео к EWC 2025👈
#EsportsWorldCup#EWC#EWC25#GOGOVP
Закидываю удочку, пусть ловится спот на EWC 2025 😎 А пока работаем и тренируемся в поте лица!
Смотрите новый ролик клуба к EWC и поддержите лайком 👇
https://t.me/virtuspro/16044
#EsportsWorldCup#EWC25#EWC#GOGOVP