Post #4134

Теперь не нужно ждать часами пока сбилдится Flash Attention 🤗 запилили репозиторий кернелов, которые они сбилдили под кучу сочетаний видеокарт, ОС и версий PyTorch. Прирост по сравнению с автоматически сгенерированными кернелами вплоть до 2.5x, всё совместимо с torch.comple(). huggingface.co/kernels @ai_newz