Најди сличен содржај

Изворен канал @pythonotes · Post #425 · 20 апр.

Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках. Выглядело это примерно так: from fastapi.concurrency import run_in_threadpool async def execute(data: DataRequest) -> DataResponse: try: result = await run_in_threadpool(sync_function, data) return DataResponse(data=result) except Exception as e: return DataResponse( error=str(e), success=False, ) В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо. Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров). Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio: import anyio @asynccontextmanager async def lifespan(app: FastAPI): limiter = anyio.to_thread.current_default_thread_limiter() limiter.total_tokens = 100 yield # если вдруг нужно вернуть обратно limiter.total_tokens = 40 Зачем менять количество воркеров? - уменьшить, если оперативки мало (один тред занимает ~8мб) - увеличить чтобы выдержать нагрузку Если есть предложения получше при тех же вводных - предлагайте😉 #async

Hashtags

#async

Резултати

Пронајдени 1 слични објави

Пребарај: #prasmichel

当前筛选 #prasmichel清除筛选

AI & Law

@ai_and_law · Post #146 · 24.10.2023 г., 07:04

Најди слично Погледај

AI-Generated Defense Fails Rapper in Federal Trial Hello, AI & Law community! Rapper Prakazrel "Pras" Michel, convicted of federal crimes tied to a foreign influence campaign, claims he deserves a new trial because his attorney employed an experimental AI program to construct his closing argument. This move did not go as planned. Michel's new legal team asserts that this AI-generated defense was ineffective, resulting in a frivolous argument. Michel's trial counsel, David Kenner, stands accused of not delivering a solid defense. Beyond the use of AI, he was criticized for failing to understand the facts and allegations surrounding the case. Kenner used an experimental AI program, possibly with financial interests involved, to create his closing argument. The use of this AI technology in a federal trial marks a first, but it resulted in a closing argument that made frivolous claims and overlooked critical aspects of the government's case, severely damaging the defense. This AI-related incident echoes a prior case where an attorney admitted to using AI to draft court filings that cited six non-existent cases, generating concerns about AI's role in legal proceedings. The AI program in question was developed by EyeLevel.AI and was praised for its ability to offer insights faster than conventional means. However, it appears that its use led to unintended consequences in Michel's case. The revelations from this trial might shape the conversation around AI's role in legal defense. Stay tuned for more on this intriguing development! #AI#AIinLaw#LegalAI#PrasMichel

Hashtags

#ai #aiinlaw #legalai #prasmichel