#jupyter_notebook#chinese_llm#chinese_nlp#finetune#generative_ai#instruct_gpt#instruction_set#llama#llm#lora#open_models#open_source#open_source_models#qlora
AirLLM is a tool that lets you run very large AI models on computers with limited memory by using a smart layer-by-layer loading technique instead of traditional compression methods. You can run a 70-billion-parameter model on just 4GB of GPU memory, or even a 405-billion-parameter model on 8GB, without losing model quality. The benefit is that you can use powerful AI models on affordable hardware without expensive upgrades, and the tool also offers optional compression features that can speed up performance by up to 3 times while maintaining accuracy.
https://github.com/lyogavin/airllm
#Italia
Alessandro #Zan (#PD|S&D): "Il ddl Zan approvato alla camera è stato il frutto di lunghe mediazioni. Molti di questi cambiamenti sono stati chiesti e ottenuti proprio grazie alla mediazione. Quello che chiediamo è che nella legge non vengano mai meno diritti e dignità delle persone. Noi abbiamo solo esteso la legge Mancino. Il sogno e far uscire l'Italia da questa arretratezza che nell'Unione Europea non trova posto. Approvare il ddl sarebbe solo primo passo nella lotta per i diritti."
@UltimoraPolitics
#Camera
Nel #PD spunta l’ipotesi di schierare Alessandro #Zan alla vicepresidenza, profilo diametralmente opposto e contrapposto a quello del neoeletto presidente Lorenzo #Fontana
@UltimoraPolitics
Elly #Schlein presenta la nuova segreteria #PD: sarà Marta #Bonafoni la coordinatrice. E poi Peppe #Provenzano agli Esteri, Sandro #Ruotolo all'Informazione e Cultura, Maria Cecilia #Guerra al Lavoro, Alessandro #Zan ai Diritti, Debora #Serracchiani alla Giustizia
@UltimoraPolitics