Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 2 слични објави

Пребарај: #opticalcomputing

当前筛选 #opticalcomputing清除筛选

Machinelearning

@ai_machinelearning_big_data · Post #8675 · 02.10.2025 г., 15:11

Најди слично Погледај

🔦Генерация изображений на свете, а не на GPU Исследователи из UCLA представили оптическую генеративную модель (Optical Generative Model). Она использует свет и линзы вместо вычислительных блоков - то есть картинки рождаются не на чипах, а в физике. 🔬 Как это работает: 1. Лёгкий цифровой энкодер превращает случайный шум в фазовый узор. 2. Этот узор загружается на оптический модулятор света. 3. Свет проходит через дифракционный декодер и прямо на сенсоре формируется изображение. ✔️ Авторами проведены реальные эксперименты: с помощью видимого света и SLM показаны результаты генерации: - Созданы цифры, лица, бабочки и даже картины в стиле Ван Гога. - Качество сравнимо с современными диффузионными моделями. - Есть две версии: мгновенная (один проход) и итеративная (несколько шагов, как у диффузии). ⚡ Чем интересен такой подход - Подход не требует никакой вычислительной нагрузки. - Супербыстрая генерация: физика света выполняет то, что GPU делает миллиардами операций. - Это открывает путь к энергоэффективному ИИ для edge-устройств: AR/VR, мобильные камеры, компактные сенсоры. ⚠️ Ограничения: - Сложно выравнивать оптические системы. - Ограничения по точности фазовых масок. - Зависимость от качества оборудования (шум, битовая глубина). Но даже с этими проблемами, это первый шаг к новому классу ИИ, где вычисления заменяются чистой оптикой. Nature: https://www.nature.com/articles/s41586-025-09446-5 @ai_machinelearning_big_data #AI#OpticalComputing#Photonics#GenerativeA

Hashtags

#ai #opticalcomputing #photonics #generativea

Machinelearning

@ai_machinelearning_big_data · Post #8489 · 09.09.2025 г., 15:30

Најди слично Погледај

🔬Университет Флориды представил оптический AI-чип Инженеры UF создали чип, который использует лазеры и микролинзы для выполнения операций свёртки — ключевых для распознавания изображений, видео и речи. 🚀 Почему это интересно: - Энергопотребление таких чипов эффективнее в 10–100 раз, чем у обычных электронных чипов - Точность обработки сохраняется на уровне ~98% - Технология поможет снизить нагрузку на энергосети и сделать масштабные AI-системы более устойчивыми Впервые оптические вычисления встроены прямо в чип и применены к нейросети. Это значит, что чип может выполнять самые ресурсоёмкие операции почти не потребляя энергию. 📊 Итог - Потребление энергии ↓ в 10–100 раз - Точность ~98% Этот чип может стать новым стандартом в энергоэффективных вычислениях для AI. ⚡Подробности: news.ufl.edu/2025/09/optical-ai-chip/ @ai_machinelearning_big_data #AI#Chip#OpticalComputing#Photonics#Energy

Hashtags

#ai #chip #opticalcomputing #photonics #energy