#jupyter_notebook#chinese_llm#chinese_nlp#finetune#generative_ai#instruct_gpt#instruction_set#llama#llm#lora#open_models#open_source#open_source_models#qlora
AirLLM is a tool that lets you run very large AI models on computers with limited memory by using a smart layer-by-layer loading technique instead of traditional compression methods. You can run a 70-billion-parameter model on just 4GB of GPU memory, or even a 405-billion-parameter model on 8GB, without losing model quality. The benefit is that you can use powerful AI models on affordable hardware without expensive upgrades, and the tool also offers optional compression features that can speed up performance by up to 3 times while maintaining accuracy.
https://github.com/lyogavin/airllm
#PENGU
Бренд Original Penguin подал в суд на Pudgy Penguins из-за товарных знаков
PEI Licensing (владелец бренда одежды Original Penguin, основанного в 1955 году) подала иск против Pudgy Penguins в федеральный суд Южного округа Флориды. Компания утверждает, что Pudgy Penguins использует и пытается зарегистрировать «пингвиньи» словесные и графические знаки так, что это может вводить покупателей в заблуждение и размывать бренд.
По версии PEI, предупреждение о нарушении направляли еще в октябре 2023 года, но Pudgy Penguins продолжила выпуск и продажу розничных товаров (мерч, одежда и т.п.).