Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Близимся к финалу #UPLOAD 3
Кто проспал и не слышал/не видел) 😫
Загляни сюда: https://www.amazon.com/Upload-Season-3/dp/B0CGK65JMX
Вполне уместно поговорить про будущее.
Которое, там отражено.
А сейчас в сериале момент, когда менеджер (без сексизма).
“Штопает”/стирает копии “персонажа №1”, спасая свою попу.
И у меня вопросы...
Как ВЫ видите будущее, например, в 2050 году? 🏥
Будем жить во флешках или банках? 🏦
А в 2100? 💒
Мечтать не вредно и увидеть хочется!
Кстати, серии всего по 30 минут, очень удобно.
#РекомендуемСмотрим
¿Que puede hacer este bot?
@mysterious_uploader_robot
•Cargador de URL
•Cargar varios tipos de formatos
•Descargar enlaces de más de 2 GB
•Enlaces directo y los sube a Telegram como un archivo/video.
Idioma : Inglés
#upload#descargar#download
( Visto en: @BotsGram_Cu )
#random#textpost#music#upload
source
When I close my eyes, it's a fantasy
Perfect plastic life from a magazine
Then, when I wake up, it's reality (pretty girls)
I can have it all (yeah), live my цикорiй dreams (Kaliii)
Друзья, ПРИВЕТствую)
Я снова в дороге)
И пополняю любимую рубрику: #РекомендуемСмотрим
Третий сезон, сериала #UPLOAD, в переводе #Загрузка.
Эмоциональный вариант “светлого завтра”.
В отличии, от #ВикторПелевин, без “банок” и “Transhumanism Inc.”.
Суровая констатация факта, что финал будет в флешке...
Рецензий ещё нет.
Вы можете стать первыми!
https://www.kinopoisk.ru/series/1127489/
@TeleHobot
Qué puede hacer este bot?
¡Este es un bot de medios!
Comparta sus archivos con otros y califique los archivos cargados por otros.
¡Que sea IMPRESIONANTE!
Idioma: Inglés, Ruso
(visto en @BotsGram.cu)
#share, #upload, #social, #innovative
@warlockpublicurl_bot
Qué puede hacer este bot?
Envíale cualquier Archivo Multimedia de Telegram y generará un enlace directo para ello
Los Archivos Porno están Estrictamente Prohibidos.
Idioma: Inglés
(visto en @BotsGram_cu)
#file, #upload, #link, #url, #public, #telegram
@upfileiobot
Qué puede hacer este bot?
Envíame / reenvía cualquier archivo (hasta 20MB en cualquier momento) y te daré el enlace público de ese archivo desde file.io servidor. El enlace solo se puede usar una vez
Idioma: Inglés
(visto en @BotsGram_cu)
#file, #upload, #link, #url, #public, #telegram