by Guest » 27 Dec 2024, 10:55
Wenn ich „unsloth“ verwende und versuche, das Modell als gguf zu speichern, erhalte ich die folgende Fehlermeldung:
Code: Select all
1053 check = os.system("rm -rf llama.cpp/build")
1054 if check != 0: raise RuntimeError("Failed compiling llama.cpp. Please report this ASAP!")
RuntimeError: Failed compiling llama.cpp. Please report this ASAP!```
I have seen there is an issue about this topic. Someone has some news or some alternative solutions?
Wenn ich „unsloth“ verwende und versuche, das Modell als gguf zu speichern, erhalte ich die folgende Fehlermeldung:
[code] 1053 check = os.system("rm -rf llama.cpp/build")
1054 if check != 0: raise RuntimeError("Failed compiling llama.cpp. Please report this ASAP!")
RuntimeError: Failed compiling llama.cpp. Please report this ASAP!```
I have seen there is an issue about this topic. Someone has some news or some alternative solutions?
[/code]