Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Периодически сталкиваюсь с такой постановкой проблемы не-юристами.
Якобы непонятно, кто должен отвечать за последствия действий искусственного интеллектуального агента*, которому делегирована некая задача. А когда задачу выполнял человек, всё было понятно.
У меня вопрос: почему непонятно? Кто делегировал задачу, тот и отвечает. Почему, когда кто-то делегирует задачи калькулятору или бухгалтерской программе, вопрос об ответственности делегирующего перед теми, с кем он взаимодействует, не ставится под сомнение?
И будь калькулятор или пограмма хоть сто раз дефектными, перед посторонними отвечает всё равно их пользователь. Независимо от вины. Дальше он может разбираться с производителем калькулятора или программы, если есть на то основания. Но принцип не меняется.
Есть основания считать иначе?
#liability#delegation
🏦Osiyo taraqqiyot banki delegatsiyasining Biznes va tadbirkorlik oliy maktabiga tashrifi
🟧 Oliy maktabda direktor o‘rinbosari Mirkomil Odilov boshchiligida Osiyo taraqqiyot banki (OTB) Markaziy va G‘arbiy Osiyo mintaqasida operatsiyalarni muvofiqlashtirish bo‘yicha bosh mutaxassisi Shayista Husaynxonim boshchiligidagi delegatsiya bilan uchrashuv bo‘lib o‘tdi.
💲Visit of the Asian Development Bank Delegation to the Graduate School of Business and Entrepreneurship
🟧 The Graduate School hosted a meeting between its management, represented by Deputy Director Mirkomil Adilov, and the delegation of the Asian Development Bank (ADB), headed by Ms. Shayista Hussain, Chief Operations Specialist for Central and West Asia Operations Coordination.
🏦 Визит делегации Азиатского банка развития в Высшую школу бизнеса и предпринимательства
🟧 В Высшей школе состоялась встреча руководства в лице заместителя директора Миркомила Адилова с делегацией Азиатского банка развития (АБР), возглавляемой главным специалистом по операционным вопросам Координации операций в регионе Центральной и Западной Азии г-жой Шайистой Хуссейн.
#GraduateSchool#Meeting#ADB#Delegation
🔝Web-site |🔝Facebook |🔝Instagram | 🔝Youtube
Когда не делегировать задачу машине — аморально?
На WLS 2019 я поднял одну интересную этическую тему.
Весьма вероятно, что по мере технического прогресса машины продолжат становиться эффективнее людей в широком спектре задач.
В ряде случав эффективность может выражаться в спасении или повышении качества жизней десятков (сотен, тысяч, миллионов?) людей.
Очевидный пример — полностью автономное вождение. Условие его широкого принятия обществом — машина начнёт водить безаварийнее, чем средний водитель-человек.
В связи с этим — вопрос к вам на голосование ниже.
#ethics#ai#unmanned_tech#delegation
🚀 Iranian Delegation Arrives in Pakistan for Talks with U.S.
On April 10, an Iranian delegation arrived in Pakistan to engage in discussions, according to BlockBeats. The primary negotiations between Iran and the United States are scheduled to take place tomorrow.
#Iran#Pakistan#US#delegation#talks#diplomacy#internationalrelations