Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Переводчики-редакторы со знанием иностранных языков
#удаленно#вакансия#crypto#tango
Katz Technologies LLC создаёт WEB3-экосистему (криптокошелёк, DEX, Memepad, Explorer) и ищем профессионального переводчика-редактора для проверки ИИ-переводов сайта и долгосрочного сотрудничества.
Не важны дипломы и громкие компании. Главное - чувство языка, ответственности и понимание crypto-контекста. Вы сразу видите искажения смысла, ошибки в терминах и роботизированный перевод, умеете быстро и точно доводить машинный текст до профессионального уровня. Важно чувствовать тон продукта, которому пользователь доверит деньги.
Мы предлагаем:
- Долгосрочный проект и сильный кейс в портфолио
- Удалённую работу и гибкий график
- Возможность влиять на продукт с нуля
- Бонусы за результат
Задачи:
- Проверка ИИ-перевода сайта (10+ страниц, ~5 000 знаков каждая)
- Контроль смысла и терминологии (Tier-1 приоритет)
- Исправление ошибок, кальки и неестественных формулировок
- Работа с готовым переводом (без переписывания с нуля)
Языки (один или несколько):
#German, #Swedish, #Polish, #Dutch, #French, #Turkish, #Spanish, #Portuguese
Обязательно:
- Уровень: C1+
- Умение быстро вносить точечные правки
Приветствуется:
Опыт в IT / crypto / fintech
Как откликнуться:
В ТГ: https://t.me/shillbert
Укажите язык(и), опыт и примеры проектов (если есть).
⏺Откликнуться: https://t.me/shillbert
➖➖➖➖➖➖➖➖➖➖➖
🪩 Откликнуться быстрее других
➖➖➖➖➖➖➖➖➖➖➖