TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #gpt6

当前筛选 #gpt6清除筛选

🔥ИИ, который учится вечно: закат эры «замороженных» моделей Знакомо ощущение, что разговариваешь с очень умным, но давно застрявшим в прошлом собеседником? 🤔 Так и есть. Текущие LLM (большие языковые модели) — это статичные «энциклопедии». Их знания и логика заморожены на моменте окончания обучения. Да, они могут проанализировать дополнительный материал в контексте запроса (например, статью из интернета или ваш файл), но их ядро остаётся неизменным. Они не учатся на своих ошибках и не адаптируются к миру, который меняется прямо сейчас. А что, если бы ИИ мог учиться так же, как человек? Не просто читать, а впитывать опыт и становиться умнее с каждым днем. Это уже не фантастика. Это — SEAL. Исследователи из MIT представили фреймворк SEAL (Self-Adapting Language Models) — самоприспосабливающиеся языковые модели . Это фундаментальный прорыв. Такая модель умеет: ➡️Генерировать собственные учебные данные через саморедактирование . ➡️Обновлять свои веса (параметры) — то есть, менять то, как она «думает» . ➡️Оценивать свою работу с помощью reinforcement learning (обучения с подкреплением) и постоянно самосовершенствоваться . Что это значит на практике? ➡️Чат-бот для поддержки, который сталкивается с новой проблемой, не просто эскалирует ее человеку, а сам генерирует для себя примеры и учится ее решать . ➡️AI для кибербезопасности, который не просто ищет известные угрозы, а эволюционирует вместе с новыми атаками, постоянно refining свои защитные механизмы . ➡️Конец эры моделей с фиксированными весами . Система, которая адаптируется к миру и улучшается каждый день. Любопытно, что некоторые исследователи, стоящие за SEAL, уже работают в OpenAI . Это наводит на мысль, что GPT-6 может быть больше, чем просто «умнее» — он может «ожить» в вычислительном смысле . Конечно, есть и вызовы: например, «катастрофическое забывание» (когда новые знания вытесняют старые) и высокая требовательность к вычислениям . Но направление задано. Эпоха статичного ИИ подходит к концу. Начинается эра живых, самообучающихся систем. 🚀 P.S. Для глубокого погружения в тему можно почитать про другие подходы, например, Darwin Gödel Machine — самоулучшающегося агента, который эволюционирует, меняя собственный код . #ИИ#Самообучение#SEAL#GPT6#Будущее#AI https://t.me/semasci