TGTGInsighttelegram intelligenceLIVE / telegram public index
Post content
Post content
感觉有些玩 Rust 的极客很明显没跟上大模型时代的版本特性。 我看到一个比较离谱的项目,对 RAG 做出改进,核心改进是用 rust 重写 chunker,将耗时从 Python LangChain 的 3200ms 降低到 12ms (同时保持 python 的易用性),性能大幅提升 266 倍。我真是求求你了 🤤
感觉有些玩 Rust 的极客很明显没跟上大模型时代的版本特性。 我看到一个比较离谱的项目,对 RAG 做出改进,核心改进是用 rust 重写 chunker,将耗时从 Python LangChain 的 3200ms 降低到 12ms (同时保持 python 的易用性),性能大幅提升 266 倍。我真是求求你了 🤤