Unsloth save_pretrained_gguf FEHLGESCHLAGEN. RuntimeError: Kompilieren von llama.cpp fehlgeschlagen. Bitte melden Sie di
Posted: 27 Dec 2024, 10:55
Wenn ich „unsloth“ verwende und versuche, das Modell als gguf zu speichern, erhalte ich die folgende Fehlermeldung:
Code: Select all
1053 check = os.system("rm -rf llama.cpp/build")
1054 if check != 0: raise RuntimeError("Failed compiling llama.cpp. Please report this ASAP!")
RuntimeError: Failed compiling llama.cpp. Please report this ASAP!```
I have seen there is an issue about this topic. Someone has some news or some alternative solutions?