Wie lade ich ein fein abgestimmtes Vision-LM-Modell? Moondream-Modellkoffer ⇐ Python

[Guest]

Ich habe das moondream-Modell für meinen eigenen Bildinferenzfall verfeinert. Ich habe das im offiziellen Repository bereitgestellte Finetune-Skript verwendet.
Nachdem ich gelernt hatte, wie man das Skript für meinen Datensatz verwendet, lief alles gut.
Das Skript hat die folgenden Dateien generiert, als ich ve „save_pretrained()“:

• config.json;
• generation_config.json;
• model.safetensors

Jetzt möchte ich es laden und anhand einiger Bilder Rückschlüsse ziehen. Wie kann ich das machen?
Ich habe es auf viele Arten versucht, aber es ist mir nicht gelungen, zum Beispiel:

Code: Select all

model = AutoModelForCausalLM.from_pretrained(
pretrained_model_name_or_path=model_root_dir,
use_safetensors=True,
state_dict=load_file(model_path),
config=model_config,  # Provide a configuration file for the model
trust_remote_code=True,
)

aber ich erhalte Fehlermeldungen wie:

Code: Select all

AttributeError: module 'transformers_modules.vikhyatk.moondream2.fb2293ab7450beb1dae536b069f5966becf58e5c.moondream' has no attribute 'Moondream'

Wie kann ich diesen Fehler beheben?