Недавно делал быстрый прототип асинхронного приложения в котором требовалось вызывать много синхронного кода. Да, я знаю, что это не лучший дизайн, но нужно было быстрое решение на один процесс и без очередей. Поэтому я выполнял код в потоках.
Выглядело это примерно так:
from fastapi.concurrency import run_in_threadpool
async def execute(data: DataRequest) -> DataResponse:
try:
result = await run_in_threadpool(sync_function, data)
return DataResponse(data=result)
except Exception as e:
return DataResponse(
error=str(e),
success=False,
)
В общем работает нормально. Для всех вызовов под капотом используется общий тредпул, всё работает предсказуемо.
Но потребовалось изменить количество запускаемых в пуле потоков (по умолчанию создается 40 воркеров).
Так как дело происходит с FastAPI, делается это через lifespan используя настройки anyio:
import anyio
@asynccontextmanager
async def lifespan(app: FastAPI):
limiter = anyio.to_thread.current_default_thread_limiter()
limiter.total_tokens = 100
yield
# если вдруг нужно вернуть обратно
limiter.total_tokens = 40
Зачем менять количество воркеров?
- уменьшить, если оперативки мало (один тред занимает ~8мб)
- увеличить чтобы выдержать нагрузку
Если есть предложения получше при тех же вводных - предлагайте😉
#async
Warhammer 40000: Dawn Of War (2004).
Этой культовой компьютерной игре уже 21 год, а она всё так же эпична.
Как и её вступительный ролик)
#Нейросуть#Neuralsense#MalikovAI#Видеоигры
https://rutube.ru/video/5a90da44eded2942ac4be3819c34eb3d/
Minimax очень забавно дорисовывает объекты, которых нет на изначальной картинке)
Решил приодеть девочку из моей версии проекта SPARTAN.
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект
В начале января вернулся к тому, с чего начинал свой путь в нейронках — большой проект с музыкой моего отца.
В этот раз сделал видеоряд для композиции «Snowflake».
Однажды приходит время, когда ведьма должна передать свой дар. Зимняя ведьма не была исключением)
Возможно, будет продолжение.
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект
Генетически усовершенствованный солдат общается с очаровательной ИИ-помощницей.
Научно-фантастический игровой боевик Halo: Infinite.
Фантастика, то есть. Вымысел. Пока что :D
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект
Президент на букву Т совместно с крупными компаниями (одна из которых OpenAI, создатель ChatGPT) планируют вложить более 500 млрд. долларов в создание инфраструктуры искусственного интеллекта в США.
И разумеется, всё на благо человечества. Экономическая выгода, рабочие места. Будем посмотреть)
Масштабы впечатляют, а вот название не очень удачное, по-моему. Отсылочка сразу к нескольким фильмам и все они не очень позитивные :D
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект
Попробовал парочку промптов в новой видео модели Luma - Ray2.
Пока что это text to video.
Если однажды появится функция загрузки изображений и она будет работать так же - это будет просто отлично)
Я теперь качество нейронок буду оценивать тем, как они анимируют змей.
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект
Что же, год подходит к своему завершению.
Он был очень насыщенным и захватывающим, полным развития и очень крутых знакомств!
Итоги я ещё подведу, а сейчас пора замедляться и настраиваться на небольшой отдых.
Чтобы набраться сил и ворваться в новый эпизод с ещё большим рвением!
Поздравляю всех с Наступающим Новым годом!
В конце года меня хватило на небольшой ролик не для работы.
Надеюсь, вам понравится.
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект
Если осень - пора ужастиков, то зимой я очень люблю перечитывать комиксы и пересматривать мульты/фильмы по вселенной Бэтмена.
#ИИ#AI#AIVideo#MalikovAI#Neuralsense#Нейросуть#ИскусственныйИнтеллект