Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #100к20

当前筛选 #100к20清除筛选

100K20

@science_100k20 · Post #88 · 07.09.2023 г., 08:31

Најди слично Погледај

Международная конференция по Искусственному Интеллекту 🔥 На связи команда 100К20👋🏻Спешим сообщить, что со 2 по 4 октября 2023 года пройдет Всероссийская научная конференция «Дизайн междисциплинарных исследований в контексте сближения моделей естественнонаучного и гуманитарно-социального знания». В рамках данной конференции выступят партнеры компании «100K20» - представители крупных международных издательств с докладами на различные актуальные темы на стыке межотраслевых научных областей, например, таких как применение искусственного интеллекта в гуманитарных и социальных дисциплинах. Мы уверены, что совместными усилиями мы сможем стимулировать технологические прорывы в будущее☄️ Наша компания выступит в роли информационного партнера на мероприятии, которое пройдет на Физтехе МФТИ. Успейте зарегистрироваться по ссылке. Будем рады встретиться с Вами и обсудить перспективы развития науки! 🧬 #100К20#конференция#ИИ#наука

Hashtags

#100к20 #конференция #ии #наука

100K20

@science_100k20 · Post #57 · 20.06.2023 г., 13:58

Најди слично Погледај

С 19 по 21 июня проходила XXI Всероссийская научно-практическая конференция и выставка «Корпоративные библиотечные системы». Наша команда 100К20 совместно с издательством Wiley выступила с докладом, посвященным искусственному интеллекту в области библиотечного и научного секторов, а также рассказала о возможностях национальной подписки РЦНИ. На мероприятии присутствовало более 300 участников из различных регионов России, Казахстана и Узбекистана. Представители библиотечного и научного сообщества смогли обменяться знаниями и опытом, а также обсудить важные и актуальные темы. Мы хотели бы выразить глубокую благодарность всем организаторам конференции за интересное и профессиональное мероприятие. #корфор2023, #corfor2023#100к20, #арбикон, #рцни, #wiley#библиотека#политех#искусственныйинтеллект

Hashtags

#корфор2023 #corfor2023 #100к20 #арбикон #рцни #wiley #библиотека #политех #искусственныйинтеллект