TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #imagen3

当前筛选 #imagen3清除筛选

Google DeepMind: как ИИ-гигант захватывает все фронты Пока OpenAI металась между моделями, облаками и попытками захватить рынок, Google ждал своего часа. 🕰️ Спокойно дорабатывая экосистему, вкладываясь в железо и собирая данные, гигант подошел к 2025 году с абсолютным преимуществом. Теперь их победа очевидна даже скептикам. 🔥Лидерство моделей ➡️Gemini 2.5 Pro — №1 в ключевых тестах: LMArena, GPQA Diamond, AIME. ➡️Gemini 2.5 Flash (скоро в релизе) — скорость и стоимость в разы лучше аналогов (даже DeepSeek). ➡️Gemma 3 — open source модель уровня Llama 4 и DeepSeek-v3 но компактнее. 🎯Интеграция в экосистему ➡️1 млн токенов контекста + доступ к Google Поиску, YouTube, Workspace. ➡️Миллиарды пользователей получат Gemini бесплатно через Android, Chrome, Gmail. 🛠️Не только LLM ➡️Veo 2 — топ в генерации видео. ➡️Project Astra (ассистент) и Mariner (взаимодействие с ПК) — прорыв в агентских системах. ➡️Google Workspaces (ранее G Suite) - все собрано в одном флаконе для корпоративного пользователя. ➡️Imagen 3 (изображения) и Lyria (музыка) — пока не топ в своих категориях, но явно догонят, так как были выпущены ещё в прошлом веке (в прошлом году, если быть точнее, но в ИИ это сравнимо с прошлым веком).. ⚡Железо и облака ➡️TPU Ironwood — чипы 7-го поколения для AI-инференса (конкурент Nvidia Blackwell и Huawei Ascend). ➡️Google Cloud + собственные серверы = независимость от Microsoft/AWS. 🆚Почему конкурентам не догнать? ➡️У OpenAI нет своего железа, облака и 2 млрд пользователей «из коробки». ➡️Anthropic зависит от AWS, а Meta сосредоточена на open source, а не продуктах. ➡️Илон Маск с Grok-3 хорошо продаёт полеты на Марс, но у него проблемы с железом (StarGate только стартует). ➡️Apple кажется просто отстал на повороте... ➡️Главный козырь Google: данные. YouTube, Поиск, Карты — это тренировочная база, которой вместе нет ни у кого. ⚠️Но есть нюансы ➡️Gemini всё ещё отстаёт в креативном письме (хотя прогресс есть). ➡️При тестировании не все гладко, мои тесты. ➡️Бесплатный доступ — пока маркетинг. Цены могут вырасти после массового внедрения. ➡️Пока ИИ от Google за VPN, китайцы удобнее... Резюме: Google не просто вернулся в игру — он переписывает правила. И да, это тот редкий случай, когда «too much winning» — не мем, а реальность. 🚀 P.S. Тем, кто верил в xAI: наши соболезнования. https://t.me/semasci #ИИ#AI#GoogleAI#DeepMind#GeminiAI#Veo2#imagen3#lyria