TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 5 слични објави

Пребарај: #gemma4

当前筛选 #gemma4清除筛选
Android Broadcast

@android_broadcast · Post #9944 · 02.04.2026 г., 18:21

Какую модель Gemma выбрать в зависимости от вашего железа. Размер оперативки указан для запуска Android Studio + Gemma локально. Как минимум стоит иметь запас по оперативки для комфортной работы, когда начнется сборка, По цифрам кажется очень интересным вариантом чтобы попробовать кодинг через CLI без IDE #AI#AndroidStudio#Gemma4

🔥Google выпустила Gemma 4 — самую умную открытую модель на сегодня Если вы следите за open-source LLM, это важный релиз. Gemma 4 построена на тех же исследованиях, что и Gemini 3, но работает локально — на вашем железе. Почему стоит обратить внимание: 🧠Прорывной интеллект — для сложных рассуждений и агентных workflows 🌐Мультимодальность и 140+ языков «из коробки» 📄Огромный контекст — до 256K токенов 🛠Нативные функции для вызовов инструментов и автономных агентов 💻 Качественная генерация кода (офлайн) ⚖️Apache 2.0 — можно использовать в коммерческих проектах без ограничений Доступны 4 размера модели в Google AI Studio. Для локального использования скачайте веса на Hugging Face, Kaggle и Ollama. 👉Больше деталей #Gemma4#OpenSourceAI#LLM https://t.me/semasci

AI一线|ShareCentre

@ShareCentre · Post #7154 · 03.04.2026 г., 02:34

Google 发布 Gemma 4 开源模型:Apache 2.0 许可,31B 登顶 Arena AI 开源第三 Google DeepMind 于 4 月 2 日正式发布 Gemma 4,迄今最强大的开源模型家族。基于与 Gemini 3 相同的技术构建,专为高级推理和 Agent 工作流打造。全系列首次采用 Apache 2.0 开源许可,完全商用自由。 自初代发布以来,Gemma 已被下载超过 4 亿次,社区衍生出 10 万+变体。 ⚙️ 四款模型 - E2B(Effective 2B):手机/IoT 边缘设备,128K 上下文,支持文本+图像+视频+音频 - E4B(Effective 4B):手机/IoT 边缘设备,128K 上下文,支持文本+图像+视频+音频 - 26B MoE(混合专家):推理时仅激活 3.8B 参数,256K 上下文,Arena AI 开源第 6 - 31B Dense(稠密):最大化质量,256K 上下文,Arena AI 开源第 3,超越 20 倍参数量模型 🔑 核心能力 - 高级推理:多步规划与深度逻辑 - Agent 工作流:原生函数调用、结构化 JSON 输出、系统指令 - 代码生成:高质量离线代码,本地 AI 编程助手 - 多模态:全系列处理图像和视频,E2B/E4B 额外支持音频 - 140+ 语言原生训练 - Apache 2.0 许可:完全商用自由 📎 相关链接 官方博客:https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/ Google AI Studio:https://aistudio.google.com Hugging Face:https://huggingface.co/collections/google/gemma-4 Kaggle:https://www.kaggle.com/models?query=gemma-4&publisher=google #Google#Gemma4#开源模型#ApacheLicense#AI

Android Broadcast

@android_broadcast · Post #9943 · 02.04.2026 г., 17:58

⭐️Gemma 4 в Android Studio: локальный AI-агент на вашем компьютере Google представил Gemma 4 — новое семейство открытых моделей для сложных рассуждений и вызова инструментов. Главная цель: сделать локальный агентный ИИ стандартом на Android — от разработки до продакшена на смартфоне. Сейчас фокус на Android Studio. Gemma 4 работает полностью локально на вашем компьютере. Код не уходит в облако. Agent Mode в Android Studio с Gemma позволит вам делать 👉 рефакторинг легаси‑кода 👉 создание целого приложения или новых фич 👉 итеративное исправление ошибок (агент сам применяет правки) Без интернета, с полным контролем приватности и без оплаты за токены. ——— Gemma 4 бывает разного размера: от E2B (2 млрд параметров) до 31B. Требования зависят от модели: 👉E2B (2B) — 8 ГБ RAM, работает на CPU. Для базовых подсказок. 👉E4B (4B) — от 16 ГБ RAM. Идеальный баланс для большинства разработчиков. 👉7B–14B — от 16 ГБ (лучше 32 ГБ). Нужен GPU или мощный нейронный движок. 👉26B A4B / 31B — 32+ ГБ RAM. Только с квантованием или на профессиональных станциях. Для обладателей MacBook Pro с 32+ ГБ и чипом M Pro/Max открвается много интересного. На такой конфигурации вы комфортно запустите: 👉E4B (4B) — молниеносно 👉26B A4B — отличный уровень интеллекта 👉31B — с квантованием (потеря качества минимальна) Благодаря Unified Memory и оптимизации через Metal MacBook Pro часто эффективнее PC с дискретными видеокартами в том же классе памяти. ——— Gemma 4 в Android Studio делает локального агентного ассистента реальностью. Вы получаете современный AI для сложных задач без облаков и без счетов за API. Выбрать модель можно прямо в настройках Android Studio через LLM‑провайдера (LM Studio, Ollama и др.). Я пойду тестировать её, потому что локальный AI агент - это очень круто! 🔗 Источник - Android Dev Blog #Gemma4#AndroidDe#AndroidStudio#AgentMode

✈️ Gemma 4 | 谷歌刚发布免费、本地、能看图写代码且能在手机上运行的AI 模型 🏷 检索标签:#Gemma4#本地AI#AI#GoogleAIEdgeGallery#LocallyAI ⭐️ 详情介绍:Gemma 4 可以粗暴理解成一个能装进自己设备里的 本地 AI 模型 不用联网,不用注册,不用付费,聊天记录全在本地,谁也看不到 谷歌这次发布了Gemma 4四个版本:E2B、E4B、31B 和 26B A4B [🔗详情获悉 ] 你只需要记其中两个模型E2B、E4B 这俩能在手机上使用 安卓建议选 E4B iPhone 建议选 E2B(更省内存) 如果你是17 Pro/Max/Air也可以试试 E4B 苹果端还可以试试 Locally AI:对 A 系列和 M 系列芯片做了专门优化,支持 Llama、Gemma、Qwen、DeepSeek 这些主流模型,全离线、无登录、无数据采集 Google AI Edge Gallery: 🍏App Store ·🎮Google Play Locally AI: 🍏App Store · Locally AI 😌频道 |🙂群聊 |😋中文包 |☺️搜索