TGTGInsighttelegram intelligenceLIVE / telegram public index
Post content
Post content
不知道是不是我什么地方配置有问题,在 M2 Max 上跑同样的任务,GPU 居然比 CPU 慢 具体配置是 M2 Max,CPU 是12核,GPU 是30核。 跑的任务是 sentence-transformers 做 embedding,底层调用 PyToch。 sentence-transformer 的版本是 2.2.2 PyTorch 版本是 2.1.0 Python 版本 3.11.6 Jupyterlab 版本 4.0.7 有哪位知道的话,请不吝赐教