Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Google Opal
Эксперимент от Google, который позволяет контролировать и менять шаги ИИ-агента.
Ты задаёшь агенту задачу — он автоматически выстраивает свои шаги в виде блок-схемы. Затем ты либо запускаешь процесс и получаешь результат, либо редактируешь эти шаги прямо в схеме. Всё выглядит довольно просто и без лишнего задротства.
Они позиционируют себя как билдер для ИИ-приложений, что, на мой взгляд, может ввести пользователя в заблуждение 💩 Потому что ты там не создаёшь приложение под какую-то платформу, а по сути — шаблоны рабочего процесса для ИИ-агента. Похоже на ComfyUI или n8n, но с уклоном в GPT и текстовый формат, а не в кодинг.
Сам знаешь как получить доступ)
#Google#Opal | AcidCrunch
🌎 Hidden under the Australian outback, opal “ghost towns” once boomed with miners seeking dazzling gemstones. Today, their abandoned tunnels and homes carved into rock remain as silent reminders of a colorful rush beneath the desert. ✨
#opal⚡#history⚡#Australia
👉subscribe Interesting Planet
🤖 Google превращает Gemini в фабрику мини-приложений
Компания сделала мощный ход, встроив конструктор рабочих процессов Opal прямо в веб-приложение Gemini. Новая функция Super Gems позволяет за пару минут создавать персонализированные ИИ-инструменты простым описанием на русском языке.
Что это меняет:
⏺️🧩 Opal теперь внутри Gemini, больше не нужно переключаться между сервисами
⏺️💬 Создание через текст. Опишите, что должно делать приложение, и ИИ соберёт рабочий процесс автоматически
⏺️🎯 Готовые шаблоны + продвинутый режим для тонкой настройки в opal.google
⏺️🌐 Публикация по ссылке — можно делиться своими приложухами с кем угодно
Как выглядит процесс:
1️⃣
. Открываете Gemini → раздел "Gems"
2️⃣
. В "My Gems" описываете задачу ("приложение, которое генерирует идеи для постов в соцсетях на основе темы")
3️⃣
. Система сама строит workflow с интерфейсом, вызовами Gemini API и вариантами вывода
4️⃣
. Тестируете и публикуете
📍 Пока доступно только пользователям США
🔄 Рабочие процессы из Opal автоматически перенесены в Gemini
💡 Интеграция с Google Workspace (Docs, Sheets, Slides)
Google постепенно превращает Gemini в универсальную платформу от чат-бота до конструктора бизнес-решений.
Ждём, когда функция доберётся до других регионов!
#Google#Gemini#Opal#ИИ#NoCode#СуперГемы#Технологии
Нейроофис👨💻