#jupyter_notebook#chinese_llm#chinese_nlp#finetune#generative_ai#instruct_gpt#instruction_set#llama#llm#lora#open_models#open_source#open_source_models#qlora
AirLLM is a tool that lets you run very large AI models on computers with limited memory by using a smart layer-by-layer loading technique instead of traditional compression methods. You can run a 70-billion-parameter model on just 4GB of GPU memory, or even a 405-billion-parameter model on 8GB, without losing model quality. The benefit is that you can use powerful AI models on affordable hardware without expensive upgrades, and the tool also offers optional compression features that can speed up performance by up to 3 times while maintaining accuracy.
https://github.com/lyogavin/airllm
Ну что господарыни, WIP по трейду с прекрасной художницей х- Birmit тг-Birmit мы ей Авис- DarkUrge из BG, у которой совершенно потрясный облик убийцы, а она нам нашего ОСа в шляпе #AlexGray
https://x.com/graykolori/status/1908201849833877868
Делаю одну из ОСов Агента №1 для булочек, вот вам обтягивающая шоко юбка👍🏿👍🏿👣👣👀 (возможно она хочет кого-то прирезать, но это неточно)
https://x.com/graykolori/status/1901658644942373215
#AlexGray
Принёс вам випку мамми Байо в тви, по концепту Гофы кста, надо её в мармосет и погнали, хотя я такой шейдер там может не выкручу... "несколько тянок +подписчики, несколько мужиков или монстров чистка от ботов"- вот и проверим #AlexGray
А вот и Ева подъехала... но она ещё в работе, хотя с позой я разобрался, так как человеку понадобилась красивая база как у 2B и ДРОН! ДРОН КАРЛ!😱 Ну а у вас сейчас что в работе? покидайте в коммы свои випки и каналы
#AlexGray