Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #udr

当前筛选 #udr清除筛选

Machinelearning

@ai_machinelearning_big_data · Post #8450 · 04.09.2025 г., 13:20

Најди слично Погледај

🔥 NVIDIA представила Universal Deep Research (UDR) UDR — настраиваемый агент для глубокого ресёрча, который «оборачивается» вокруг любого LLM. Почему это важно: 🟠**Гибкая настройка агента без кода** — UDR не ограничивает жёсткими сценариями, как большинство тулзов. 🟠Можно создавать, редактировать и комбинировать стратегии поиска и анализа. 🟠В репо есть примеры стратегий (minimal, expansive, intensive), но главная сила — в кастомизации под свои задачи. По сути, это гибкий ресёрч-агент, который можно адаптировать под любой рабочий процесс. 🟢Project: https://research.nvidia.com/labs/lpr/udr 🟢Code: https://github.com/NVlabs/UniversalDeepResearch 🟢Lab: https://nv-dler.github.io @ai_machinelearning_big_data #NVIDIA#UDR#UniversalDeepResearch#AI#LLM#ResearchAgent#AIAgents#DeepResearch

Hashtags

#nvidia #udr #universaldeepresearch #ai #llm #researchagent #aiagents #deepresearch

Libertà è ragione

@libertaeragione · Post #4457 · 16.03.2026 г., 11:00

Најди слично Погледај

#Elezioni#Francia#Locali#ÎleDeFrance#Parigi Risultati preliminari: Emmanuel #Grégoire (#PS supp. #PP-#EELV-#PCF|S&D|G/EFA|LEFT): 38% Rachida #Dati (#LR supp. #MoDem-#UDI|EPP|RE): 25,5% Sophia #Chikirou (#LFI|LEFT): 11,7% Pierre-Yves #Bournazel (#Horizons supp. #Renaissance|RE): 11,3% Sarah #Knafo (#Reconquête|ESN): 10,4% Thierry #Mariani (#RN supp. #UDR|PfE|Destra): 1,6% Blandine #Chauvel (#NPA|Estrema sinistra): 0,7% Marielle #Saulnier (#LO|Estrema sinistra): 0,7% Mahel #PierotGuimbaud (#PT|Estrema sinistra): 0,1% Necessario un secondo turno tra Grégoire, Dati, Chikirou, Bournazel e Knafo. @OsservatorioEsteri