Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
🗣️: Привет, классный старший брат! 💐 (Держит розу) (Лежит на боку) (Моргает глазами) (Неожиданно падает с кровати) (Делает сальто на одной ноге) (Лежит на боку на полу) (Продолжает моргать глазами)
— я влюбился
🗣️: Я долго думал, что сказать, и, поскольку Чон Хэмин уходит, решил просто зарегистрироваться... 🐋
— Лучше действовать, чем раздумывать!!!
🗣️: ㅃㅇ Готовимся к учебе 👋
— Удачи в учебе!!!! 🍀
🗣️: Хэмин, я здесь.
— Вот здесь и здесь!!! ㅔ
🗣️: Хэмин, я снял это во время фан концерта, и мне оно так понравилось, что я хочу поделиться им с вами, ха-ха. Я так скучаю по моему мистеру Хэму!! (17)
— Я просто хочу вернуться назад.
— 190000
📢@Turn8Entertaiment
For-8Turn
#TurnNews
#News
Перевод
Хён, уже прошло 3 года.
Всегда спасибо тебе! Благодаря тебе я набираюсь сил.
Даже когда у меня нет энергии, ты поддерживаешь меня.
Ты как настоящий ENFP — всегда яркий и тёплый.
Давай и дальше идти вместе и создавать много
ценных воспоминаний.
С днём рождения!
Наш Хэм-за, с днём рождения!! ♡
Я тебя поздравляю уже четвёртый год.
За эти четыре года многое изменилось,
но мои чувства не изменились.
Я всегда буду на твоей стороне!
Спасибо тебе, Хэмин ♡
Хэм-за, поздравляю с днём рождения! ♡
Уже четвёртый раз поздравляю тебя.
Всегда заботься о себе,
ешь вкусную еду и будь счастлив.
Иногда бывает тяжело,
но давай и дальше идти вместе.
С днём рождения!
Хэмин, ты для меня человек,
который даёт много сил.
Каждый раз, когда мне тяжело,
я думаю о тебе и снова поднимаюсь.
Твоя искренность и старание
всегда вдохновляют.
Я хочу и дальше поддерживать тебя
и идти рядом.
Спасибо тебе за всё.
Всегда будь здоров и счастлив!
Привет, Хэмин! С днём рождения.
Ты очень тёплый и добрый человек.
Хотя ты иногда говоришь, что не уверен в себе,
для многих людей ты уже огромная поддержка.
Надеюсь, ты будешь получать
такую же любовь, какую даришь другим.
Береги себя. Я всегда болею за тебя.
Хэм-за! С днём рождения~~~
В этом году тоже улыбайся больше
и будь счастлив.
Я всегда буду рядом и поддерживать тебя
Хэм-за, с днём рождения.
Будь здоров и счастлив.
Надеюсь, ты знаешь,
как сильно мы тебя любим.
И дальше дари нам свою улыбку.
📢@Turn8Entertaiment
For-8Turn
#TurnNews
#News
#Twitter
📍 Обновление твиттера 8TURN_official
— KCON в Японии был просто потрясающим 💕 Увидимся в следующий раз ❤️
— It was so much fun at KCON JAPAN 💕 See you again next time ❤️
📢@Turn8Entertaiment
For-8Turn
#TurnNews
#News