Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Art of Manliness: и одно приложение чтобы править всеми. 30 способов улучшить свою жизнь используя Evernote
Многие не любят Evernote, считают его слишком громоздким комбайном, неэффективным и старомодным в эпоху «лёгких» приложений-виджетов. Но его кажущаяся громоздкость оборачивается потрясающей гибкостью, позволяющей приспособить этот «комбайн» исключительно под ваши цели и образ мышления. В результате вы можете получить потрясающий инструмент буквально для всего - если готовы потратить несколько десятков минут на то, чтобы немного во всём разобраться. Или уделите 10–15 минут чтению этой статьи, возможно вам удастся почерпнуть несколько интересных идей из восторженного текста проповедников Evernote из издания Art of Manliness.
«Evernote существует уже много лет, и хотя команда AoM баловалась с приложением раньше, мы с Бреттом наконец стали его полноценными проповедниками. Прежде чем мы пойдем дальше, мы должны сразу сказать, что это не спонсорская запись; мы не имеем никакого отношения к Evernote. Нам просто очень нравится это приложение, и мы думаем, что каждый человек может извлечь из него пользу. Внедрение даже нескольких идей, представленных ниже, сделает вас более продуктивным».
https://theidealist.ru/evernote/
#ArtOfManliness#человек#технологии#продуктивность#программы#Evernote
#typescript#anki#chatgpt#deepseek#electron#evernote#knowledge_base#local_first#markdown#note_taking#notes_app#notion#obsidian#ocr#ollama#openai#pdf#s3#self_hosted#webdav
SiYuan is a privacy-first personal knowledge management tool. It allows you to organize your thoughts and notes in a secure way, even offline. You can use features like block-level references, Markdown editing, and mathematical formulas. It also supports AI tools and has apps for Android, iOS, and HarmonyOS. SiYuan is open source and free for most features, making it a great choice for managing your personal knowledge securely.
https://github.com/siyuan-note/siyuan