Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
XL Media тут недавно показали суперобложки основного (Letta) и лимитированного (Konia) издания второго тома новеллы "Тысячи осеней" Мэн Сиши. И мне стало интересно...
#China#novel#MengXiShi#QianQiu#анонсы
Издательство XL Media сегодня поделилось оформлением второго тома новеллы "Тысячи Осеней" Мэн Сиши, а прекрасная huaepiphany добавила красоты.
Первый том уже ушёл в печать, ждём его в конце марта — начале апреля.
#China#novel#MengXiShi#QianQiu#анонсы
А вот такие японские обложки будут у издания "Мириад осеней" от издательства Boys and books
Художник — 高階佑 (takashinayuu)
В настоящий момент первый том новеллы проходит финальную стадию редактуры
Ориентировочно выйдет из печати летом 2024 года
#China#novel#MengXiShi#QianQiu#анонсы
Издательство XL Media открыло предзаказ на новеллу "Тысячи осеней" Мэн Сиши
Главный вопрос дня: лимитированное или обычное издание? Хотя для меня выбор очевиден
#China#novel#MengXiShi#QianQiu#анонсы
XL Media поделились апдейтом касательно новеллы "Тысячи осеней" Мэн Сиши
На недавнем мероприятии в ЦДМ было представлено предварительное оформление двух суперобложек от лимитированного издания романа от KONIA и основного издания с оформлением суперобложки от Letta и внутренних иллюстраций от EORNHEIT.
Лично мне обложка основного издания пришлась больше по душе. А как вам?
#China#novel#MengXiShi#QianQiu#анонсы
XL Media поделились апдейтом касательно новеллы "Тысячи осеней" Мэн Сиши
Сейчас идет работа над иллюстрациями и текстом. Уже можно полюбоваться обложкой и форзацами двух изданий от huaepiphany
Важный момент: перевод выполнен заново, с китайского языка; будет проверен консультантом из китаефандома
#China#novel#MengXiShi#QianQiu#анонсы
Исключительно во имя соблюдения традиции сообщу, что издательство Boys and Books приобрело лицензию на издание новеллы Мэн Сиши "Мириады осеней" без цензуры.
Мне этот выбор кажется немного странным на фоне того, что русскоязычное издание от XL Media появится на наших просторах гораздо раньше. Тем не менее, это станет хорошим стресс-тестом для кошельков фанатов этого автора и маркером того, насколько людям действительно важно приобрести вариант без каких-либо вторжений в пространство текста (хотя это не то чтобы очень откровенная новелла). Понаблюдаем
#China#novel#MengXiShi#QianQiu#анонсы
Издательство Seven Seas показало обложку последнего тома новеллы "Мириады осеней" Мэн Сиши от mimominamo
Релиз ожидается в июле! Ждём
#China#novel#MengXiShi#QianQiu#SevenSeas
Поймала третий том "Мириад осеней" Мэн Сиши от Seven Seas. Очень нравится оформление, но я всё равно считаю, что издательству не стоило растягивать новеллу на 5 томов... Слишком много, слишком дорого
#China#novel#QianQiu#MengXiShi#SevenSeas
Издательство Seven Seas показало обложку четвёртого тома новеллы "Мириады осеней" Мэн Сиши от mimominamo!
Ждём красоту в марте. Всего будет пять томов.
#China#novel#QianQiu#MengXiShi#SevenSeas
Обложка третьего тома "Несравненного" Мэн Сиши от Seven Seas: нет слов, одни эмоции
Артер: mimominamo
Выход из печати запланирован на февраль 2025 г.
#China#novel#MengXiShi#Peerless#SevenSeas