#jupyter_notebook#chinese_llm#chinese_nlp#finetune#generative_ai#instruct_gpt#instruction_set#llama#llm#lora#open_models#open_source#open_source_models#qlora
AirLLM is a tool that lets you run very large AI models on computers with limited memory by using a smart layer-by-layer loading technique instead of traditional compression methods. You can run a 70-billion-parameter model on just 4GB of GPU memory, or even a 405-billion-parameter model on 8GB, without losing model quality. The benefit is that you can use powerful AI models on affordable hardware without expensive upgrades, and the tool also offers optional compression features that can speed up performance by up to 3 times while maintaining accuracy.
https://github.com/lyogavin/airllm
Завтра утром выступаю на Baltic WinterвАрарат Парк Хаятт.
Фактически открываю спикерскую программу сразу после легендарного Андрея Баранникова.
Буду говорить про впечатления от творческого продукта через применение инноваций.
Это видео 2017 года тоже покажу:)
На связи,
ББВ
#balticwinter
Получил приглашение выступить спикером 11 декабря на мероприятии Baltic Weekend, которое является частью Baltic Weekend— крупнейшим в Европе международным форумом по коммуникациям, цель которого — развитие экспертизы участников коммуникационного рынка и формирование сильного отраслевого сообщества в России.
Организатором выступает легендарное агентство SPN Communications.
Давно хотел принять участие в этом событии, где интересные эксперты обсуждают актуальные вопросы международных коммуникаций и современных технологий.
Благодарю за приглашение Андрея Баранникова, руководителя проекта и моего давнего друга, который является один из лучших специалистов по PR в мире, сделавшего так много для страны и международного сотрудничества.
На связи,
ББВ
#balticweekend
#balticwinter