Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Вот такой интересный анонс мне в личку прислали
18+ НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ КАВКАЗСКИМ НИКОЛАЕМ ЮРЬЕВИЧЕМ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА КАВКАЗСКОГО НИКОЛАЯ ЮРЬЕВИЧА
Федивёрс: понятное погружение в федеративные сети
Федивёрс — экосистема совместимых соцсетей. На первый взгляд она непривычна, но в оффлайне первые шаги делаются проще.
27 сентября (суббота), 17:00, метро Курская.
Наш семинар по информационной безопасности это отличная возможность попробовать что-то действительно интересное. Присоединяйтесь к нам, чтобы узнать больше о Fediverse и его уникальных особенностях!
О чём говорим и что делаем:
Что такое Fediverse?
Простые принципы работы и как сервисы “видят” друг друга.
Как это устроено для пользователя?
Посты, подписки, хэштеги и общение между разными серверами.
Какие проблемы решает структура Fediverse?
Альтернатива централизации: контроль над лентой, переносимость, отсутствие рекламы.
Почему жизнь без алгоритмов — то, что стоит попробовать?
Больше внимания к людям, меньше манипуляций и «скролл-ловушек».
Модерация и свобода слова.
Разные правила на разных серверах; как находить «свой» по ценностям. CW/предупреждения как норма заботы.
Базовая безопасность в федеративных сетях.
Приватность по шагам: профили, видимость, сообщения, «следы».
Как сеть живёт без алгоритмов?
Роль хэштегов, локальных сообществ и ручной подписки; как быстро стартовать.
Практика прямо на месте (по желанию):
😍 Регистрация в Mastodon → первый #introduction (ваше знакомство/самопрезентация) → мы дадим список из 10 подписок, с ними одиночество и фальшивые новости вам не грозят.
👍 Delta Chat/Jami без SIM и номеров мобильника → тестовое сообщение и вход в закрытый чат.
🙈 После короткого выступление наших инфобезников будет возможность пообщаться 1-на-1 или в мини-группу до 6 чел, а может и взять онлайн консультацию, чтобы в личке настроить все по шагам.
Важно: мы не обещаем, что приход лишён рисков. Несмотря на наши меры безопасности, прийти — это смелость. Мы встречаемся, чтобы усилить друг друга и получить инструменты, которые уменьшают уязвимость в сети с которыми каждый из нас уже сталкивается.
💌Для записи на мероприятие пиши на– @markgudman
#Introduction of some #scary movies-📽✨
▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.▾.
▾cannibal
▾chainsaw
▾heunt
▾hes out there
▾insidious
▾the nun
▾pet samatary
🤩@TowardDiscoveringEnglish🤩