Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Сегодня заметил интересную цифру в профиле. Нас стало 10 000.
Честно говоря, для меня это первый серьезный психологический барьер. Кто бы мог подумать, что столько людей добровольно подпишется на то, чтобы читать мои порой язвительные заметки, изучать узбекский язык без «сахара» и смотреть правде в глаза, какой бы неудобной она ни была?
Видимо, скептицизм и тяга к знаниям все-таки заразны. Или вам просто нравится наблюдать, как я ворчу на несправедливость и коверкание языка. В любом случае, я рад, что мы собрали в Фэйсбуке аудиторию думающих людей.
Спасибо, что читаете, спорите и учитесь. Идем к следующему барьеру.
P.S. Кстати, обратите внимание на число моих подписок рядом — 666. Идеальный баланс, я считаю. 😏
#SkeptikBek#10k#УзбекскийЯзык#МыслиВслух#БекзодРустамбеков
t.me/skeptikbek
#Nature#Tiger#10k#Painting#mobile#India#animals#wild
Preview HD
Fact:
India is home to an estimated 3,682 wild tigers, accounting for approximately 75% of the whole world's wild tiger population.
High res wallpaper loading... (1min remaining)
#Indian#India#14k#10k#women#Portrait#Mobile#PC#Tab#Traditional_Attire
• Introducing the Highest Quality Wallpaper of this Channel.
- 275 Million Pixels, takes space of 336MB
- Can be used for PC, Mobile, Tablet or Advertisement banners.
Download
Search terms:
#nature#scenery#immersive#landscape#rollinghills#countryside#tuscany#greenery#peaceful#wallpaper#aesthetic#rural#sunlight#windingroad#farmhouse#10k#Mobile#Desktop#Tab
Preview HD
An idyllic, high-angle landscape featuring sun-drenched rolling green hills and a winding path leading to a rustic stone farmhouse.
Download
🥰
Search terms:
#porsche #gt3rs #supercar #autumn #fallvibes #graffiti #matteblack
#redandgrey #streetphotography #abandoned #carwallpaper #automotive#moody #leaves#mobile#10k#car#porsche911#highres
Preview HD
A high-performance Porsche 911 GT3 RS with matte grey and red accents, staged in a moody, industrial setting filled with autumn leaves.
High res wallpaper loading... (1min remaining)