TGTGInsighttelegram intelligenceLIVE / telegram public index
← AI中文社区
查找相似查看原帖
AI中文社区 avatar

TGINSIGHT POST

Post #606

@LptTech

AI中文社区

Views7,280帖子阅读量
发布4月3日2023/04/03 02:53
Post content

帖子内容

#AI工程 1984年出生的女性软件工程师使用内存映射mmap的方式大幅降低本地运行LLaMa 所需的内存量。 🖥Github 运行LLaMa 30B 现在只需要5.8G 内存，单机跑大模型门槛越来越低。 -- 来源