TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 16 слични објави

Пребарај: #blacksky

当前筛选 #blacksky清除筛选

HAPPY NEW YEAR!! подарок от саэ яна для чу сы, пришедшего с работы. (ему все нравится) немного проблемы со светотенью, но вроде неплохо вышло. буду рада рт и реакциям. #art#blacksky

Его голос не был громким, но у черной фигуры был хороший слух. Уловив знакомый голос, он поднял голову и устремил взгляд точно на Чу Сы. – Мой дорогой руководитель, наконец-то ты не удержался и вышел, – Он поставил одну ногу на поднятый объектив камеры наблюдения на земле и слегка согнул колено, отчего его ноги стали казаться длиннее. Он наклонил голову и выглядел скучающим, но в его голосе слышалась легкая улыбка. – Саэ Ян, давно не виделись, – Чу Сы даже поднял к нему левую руку, как будто действительно здоровался. – Давно не виделись, мне было бы приятнее, если бы ты опускал мою фамилию, когда зовёшь меня,– Саэ Ян сузил глаза, как будто всерьез прикидывал что-то в уме. Через несколько мгновений он вдруг улыбнулся и сказал. – Кстати, я очень по тебе скучал. а ведь чу сы действительно стал называть саэ яна просто по имени🥺 #quotes#blacksky

12
ПретходнаСтраница 1 од 2Следна