Post #7250

啧 HuggingFace 那个 transformers 库对 GB10 很不友好啊。它默认会 mmap 文件，这在 RAM VRAM 互相独立的时候无所谓，但在 GB10 上会导致它最多只能载入空闲内存一半大的模型。