TGTGInsighttelegram intelligenceLIVE / telegram public index
← Python Заметки

TGINSIGHT SIMILAR POSTS

Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

Резултати

Пронајдени 1 слични објави

Пребарај: #breakthrough

当前筛选 #breakthrough清除筛选
AI & Law

@ai_and_law · Post #95 · 27.08.2023 г., 08:48

🌟AI Sunday Wonders: Breakthrough in AI-Assisted Communication for Paralysis Patients Hello everybody! This Sunday we explore new studies published in Nature showcase groundbreaking advances in brain implants, offering hope to individuals with paralysis or speech impairments. Led by Dr. Jaimie Henderson and his team at Stanford Medicine, the studies highlight neuroprostheses that can decode neural activity into words on a computer screen, audio speech, or animated avatars. The implants were tested on patients like Pat Bennett, diagnosed with amyotrophic lateral sclerosis (ALS) affecting her speech. By recording neural activity during speech attempts and decoding it into words, researchers achieved promising results. A 50-word vocabulary saw a 9.1% error rate during vocalization days, and a 125,000-word vocabulary had a 23.8% error rate. These findings indicate the potential to restore fluent conversation for paralysis patients. Dr. Henderson emphasized the transformative impact on communication, with a promising future where those unable to speak can stay connected with the world. Although the studies are proof of concept and require further testing, they pave the way for future breakthroughs, offering a glimpse of technology's potential to bridge communication gaps. #AI#MedicalTech#Neuroprosthetics#Paralysis#Communication#Breakthrough#AIInnovation