TGTGInsighttelegram intelligenceLIVE / telegram public index
← AI中文社区

TGINSIGHT SIMILAR POSTS

查找相似内容

Source channel @LptTech · Post #608 · 4月3日

#AI工程 llama.cpp 和 whisper.cpp作者,在M1 Pro 32G的电脑上同时运行了4个聊天AI,模拟真人Podcast场景。 每个AI都独立运行whisper和 LLaMa 13B 4 个 AI 通过 mmap共享 LLM weights,节省大量内存,允许并行运行多个单独的实例 -- 来源

Hashtags

Results

找到 1 条相似帖子