TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 7 слични објави

Пребарај: #hub

当前筛选 #hub清除筛选

Казахстан строит приграничные логистические хабы🇰🇿 На самите высшего Евразийского экономического совета Касым-Жомарт Токаева заявил о строительстве 5 трансграничных хабов: «В планах также запуск пяти трансграничных транспортно-логистических хабов на границах с 🇷🇺Россией, 🇨🇳Китаем, 🇺🇿Узбекистаном, 🇰🇬Кыргызстаном и на Каспии», – сообщил глава государства. #KAZAKHSTAN#LOGISTICS#HUB

Продовольственный хаб хотят создать на «Хоргосе»🇰🇿🇨🇳 В Казахстане планирует построить продовольственный хаб на 50 Га класса «А», который позволит дольше хранить морепродукты, овощи фрукты, молочную продукцию и другие виды продуктов питания🥩🦐 Приграничные территории Казахстана все больше и больше «обрастают» новыми складскими площадями, это позволит Республике в том числе помочь осуществить планы по увеличению пропускной способности на границе с Китаем🇨🇳 #HORGOS#KAZAKHSTAN#CHINA#HUB

GitHub Trends

@githubtrending · Post #14736 · 22.05.2025 г., 12:00

#typescript#api_client#hub#huggingface#inference#machine_learning Hugging Face offers JavaScript libraries that let you easily use over 100,000 AI models for tasks like text generation, image creation, translation, and more, directly in your code or browser. You can create and manage model repositories, upload files, and run AI tasks such as chat completions or text-to-image generation with simple commands. These libraries work on modern environments without extra dependencies and support multiple providers, giving you flexible access to powerful AI tools. This helps you quickly add advanced AI features to your projects without deep AI expertise or complex setup. https://github.com/huggingface/huggingface.js