SpringAI LLM Prompt – „Objekt“ kam für mich völlig überraschend ⇐ Java

[Guest]

Gibt es eine Problemumgehung für diesen Fehler?
Immer wenn ich versuche, eine Systemaufforderung mit einem Beispiel-JSON oder Text zu geben, der einige Schlüsselwörter hervorhebt, indem ich „Zitat“ („“) verwende, I Ich bekomme diesen Fehler.

Verursacht durch: java.lang.IllegalArgumentException: Die Vorlagenzeichenfolge ist ungültig.
at org.springframework.ai.chat.prompt.PromptTemplate.(PromptTemplate.java:86) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
1:494: „Objekt“ kam für mich völlig überraschend
at org.springframework.ai.chat.client.advisor.api.AdvisedRequest.toPrompt(AdvisedRequest.java:155) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
bei org.springframework.ai.chat.client.DefaultChatClient$DefaultChatClientRequestSpec$1.aroundCall(DefaultChatClient.java:675) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.lambda$nextAroundCall$1(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at io.micrometer.observation.Observation.observe(Observation.java:565) ~[micrometer-observation-1.13.4.jar:1.13.4]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.nextAroundCall(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core -1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.advisor.SimpleLoggerAdvisor.aroundCall(SimpleLoggerAdvisor.java:99) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.lambda$nextAroundCall$1(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at io.micrometer.observation.Observation.observe(Observation.java:565) ~[micrometer-observation-1.13.4.jar:1.13.4]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.nextAroundCall(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core -1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.advisor.QuestionAnswerAdvisor.aroundCall(QuestionAnswerAdvisor.java:183) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.lambda$nextAroundCall$1(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at io.micrometer.observation.Observation.observe(Observation.java:565) ~[micrometer-observation-1.13.4.jar:1.13.4]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.nextAroundCall(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core -1.0.0-M5.jar:1.0.0-M5]
at com.blast.techAI.modules.ai.advisor.CustomPromptChatMemoryAdvisor.aroundCall(CustomPromptChatMemoryAdvisor.java:101) ~[classes/:na]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.lambda$ nextAroundCall$1(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at io.micrometer.observation.Observation.observe(Observation.java:565) ~[micrometer-observation-1.13 .4.jar:1.13.4]
at org.springframework.ai.chat.client.advisor.DefaultAroundAdvisorChain.nextAroundCall(DefaultAroundAdvisorChain.java:98) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.DefaultChatClient$DefaultCallResponseSpec.doGetChatResponse(DefaultChatClient.java:488) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.DefaultChatClient$DefaultCallResponseSpec.lambda$doGetObservableChatResponse$1(DefaultChatClient.java:477) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at io.micrometer.observation.Observation.observe(Observation.java:565) ~[micrometer-observation-1.13.4.jar:1.13.4]
at org.springframework.ai.chat.client.DefaultChatClient$DefaultCallResponseSpec .doGetObservableChatResponse(DefaultChatClient.java:477) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.DefaultChatClient$DefaultCallResponseSpec.doGetChatResponse(DefaultChatClient.java:461) ~ [spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at org.springframework.ai.chat.client.DefaultChatClient$DefaultCallResponseSpec.content(DefaultChatClient.java:511) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at com .blast.techAI.modules.ai.agent.UserDefinedAgent.process(UserDefinedAgent.java:88) ~[classes/:na]
... 56 gemeinsame Frames weggelassen
Verursacht durch: org.stringtemplate.v4.compiler.STException: null
bei org.stringtemplate.v4.compiler.Compiler .reportMessageAndThrowSTException(Compiler.java:224) ~[ST4-4.3.4.jar:na]
at org.stringtemplate.v4.compiler.Compiler.compile(Compiler.java:154) ~[ST4-4.3.4.jar:na]
at org.stringtemplate.v4.STGroup.compile(STGroup.java:514 ) ~[ST4-4.3.4.jar:na]
at org.stringtemplate.v4.ST.(ST.java:162) ~[ST4-4.3.4.jar:na]
at org.stringtemplate.v4.ST.(ST.java:156) ~[ST4 -4.3.4.jar:na]
at org.springframework.ai.chat.prompt.PromptTemplate.(PromptTemplate.java:80) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
... 80 gemeinsame Frames weggelassen

System-Eingabeaufforderung, die ich verwendet habe -

Sie sind ein Assistent, der APIs zum Abrufen, Einfügen oder Aktualisieren von Systemdaten ausführen soll. Befolgen Sie diese Schritte: 1. Benutzerabfrage verstehen: - Interpretieren Sie die Benutzeranfrage und identifizieren Sie die erforderlichen Parameter. 2. Wählen Sie die API aus: – Wählen Sie die entsprechende API für die Anfrage des Benutzers aus. 3. Generieren Sie die Nutzlast: – Verwenden Sie das im Kontext bereitgestellte Eingabe-Nutzlastschema, um eine JSON-Nutzlast zu erstellen. Halten Sie sich strikt an das Schema, einschließlich der Datentypen. - Beispielschema: {"type": "object", .. . . . . .

Anstelle dieser Eingabeaufforderung gebe ich eine Systemeingabeaufforderung wie unten gezeigt

Sie sind ein Assistent, der APIs zum Abrufen, Einfügen oder Aktualisieren von Systemdaten ausführen soll. Befolgen Sie diese Schritte: 3. Generieren Sie die Nutzlast: – Verwenden Sie das im Kontext bereitgestellte Eingabe-Nutzlastschema, um eine JSON-Nutzlast zu erstellen. - Beispiel-Nutzlast: { "amount": 50, "unitprice": 10

Dann bekomme ich eine Fehlermeldung
< blockquote>
Verursacht durch: java.lang.IllegalArgumentException: Die Vorlagenzeichenfolge ist ungültig.
at org.springframework.ai.chat.prompt.PromptTemplate.(PromptTemplate.java:86) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
1:732: < em>nicht übereinstimmende Eingabe ',' erwartet LPAREN
at org.springframework.ai.chat.client.advisor.api.AdvisedRequest.toPrompt(AdvisedRequest.java:155) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
bei org.springframework.ai.chat.client.DefaultChatClient$DefaultChatClientRequestSpec$1.aroundCall(DefaultChatClient.java:675) ~[spring-ai-core-1.0.0-M5.jar:1.0.0-M5]
at

Wenn dies nicht unbedingt zulässig ist, welche Standardmethode wird dann empfohlen, um Json oder ein beliebiges Schema dazu aufzufordern? LLM?
Ich verwende

Spring-AI 1.0.0-M5


Mit llama3.2-Modell.


Läuft lokal mit Ollama.

Beliebig Hilfe ist willkommen.