@incophotos · Post #405 · 30.11.2024 г., 17:09
«вот и осень уходит куда-то вдаль. всему надлежит уйти, чтобы переродиться» #composition
Hashtags
TGINSIGHT SIMILAR POSTS
Изворен канал @pythonotes · Post #425 · 20 апр.
Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async
Hashtags
Пребарај: #composition
@incophotos · Post #405 · 30.11.2024 г., 17:09
«вот и осень уходит куда-то вдаль. всему надлежит уйти, чтобы переродиться» #composition
Hashtags
@incophotos · Post #377 · 10.10.2024 г., 15:09
«осень— не время умирания природы и всего сущего... это время погружения мира в золото, по существу, в драгоценный оклад» #composition
Hashtags
@incophotos · Post #376 · 06.10.2024 г., 15:09
«богатыри, воинство русское...» Санкт-Петербург #composition
Hashtags
@incophotos · Post #344 · 26.09.2024 г., 15:09
«Любите и изучайте великое искусство музыки: оно откроет вам целый мир высоких чувств, страстей, мыслей... Вы увидите жизнь в новых тонах и красках» Дм. Шостакович #composition
Hashtags
@incophotos · Post #299 · 26.08.2024 г., 16:09
«моменты уходящего лета» #composition
Hashtags
@incophotos · Post #276 · 22.08.2024 г., 15:09
«Никогда и ни в чем так не проявляется человеческий характер, как за бильярдным столом» #composition
Hashtags
@incophotos · Post #245 · 14.08.2024 г., 18:09
«цветы сами по себе прекрасны. сколько мы помним людей, которые увидев цветы, вдруг сами расцветают? однозначно, что красота— большая загадка...» #composition
Hashtags
@incophotos · Post #242 · 13.08.2024 г., 18:09
«Кошки выбирают вас, вы никогда не владеете ими» Гэри Смит #composition
Hashtags
@incophotos · Post #197 · 04.08.2024 г., 16:09
«мир духовного прекрасен, в нём, человек обретает самого себя» #composition
Hashtags
@incophotos · Post #188 · 02.08.2024 г., 17:09
«цветы прекрасны, все мы это знаем» #composition
Hashtags
@incophotos · Post #164 · 28.07.2024 г., 18:09
«два времени— одно место» #composition
Hashtags
@incophotos · Post #139 · 23.07.2024 г., 20:09
«Почему некрасивых не любят. Кто-то должен любить некрасивых...» Иосиф Бродский #composition
Hashtags