Unsloth save_pretrained_gguf FEHLGESCHLAGEN. RuntimeError: Kompilieren von llama.cpp fehlgeschlagen. Bitte melden Sie di ⇐ Python

[Guest]

Wenn ich „unsloth“ verwende und versuche, das Modell als gguf zu speichern, erhalte ich die folgende Fehlermeldung:

Code: Select all

   1053 check = os.system("rm -rf llama.cpp/build")
1054 if check != 0: raise RuntimeError("Failed compiling llama.cpp. Please report this ASAP!")

RuntimeError: Failed compiling llama.cpp. Please report this ASAP!```

I have seen there is an issue about this topic. Someone has some news or some alternative solutions?