Symfony AI: Wie füge ich zusätzliche Modelle für die LM Studio Bridge hinzu? ⇐ Php

[Anonymous]

Ich arbeite mit Symfony AI und der LM Studio Bridge, um meine Sprachmodelle lokal zu verwalten.

Mein Ziel ist es, benutzerdefinierte Modelle hinzuzufügen, die nicht im Standard-ModelCatalog von Symfony enthalten sind.
Meine YAML-Konfiguration sieht so aus:

Code: Select all

ai:
platform:
lmstudio:
host_url: "http://127.0.0.1:1234"

agent:
test:
platform: 'ai.platform.lmstudio'
model: 'ministral-3-3b'
tools: false

Obwohl das Modell in LM Studio geladen ist, wird es von Symfony nicht erkannt.

Ich habe einen benutzerdefinierten ModelCatalog erstellt:

Code: Select all