'sloth/llava-v1.6-MISTRAL-7B-HF' Modell Inferenz RunTimeError: Unloth: Fehlgeschlagen, um Eingänge zu erfordern ⇐ Python

[Anonymous]

Ich habe die Modellinferenz mit Llavanext Mistral 7B -Unloth -Modell getestet, empfangen jedoch den folgenden Fehler (Bild). Bereits ein Problem für das Github Repo eröffnet, aber noch keine Antwort von ihnen. Wie kann ich dies auflösen? src = "https://i.static.net/lvpgcpdr.png"/>