Wie kann ich mit Python Antworten von OpenAI Chatgpt API token-by-Token gestreamt? ⇐ Python

[Anonymous]

Ich verwende Openais API in Python, und im Moment wird die Antwort erst zurückgegeben, nachdem die vollständige Antwort generiert wurde. < /p>
Beispiel: < /p>

Code: Select all

response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": "Explain quantum computing"}]
)

print(response.choices[0].message.content)

Dies funktioniert, aber ich möchte die Token streamen, während sie generiert werden , ähnlich wie die Chatgpt -UI das Antwortwort nach Wort zeigt. Einige Beispiele online verwenden ältere Versionen der API oder verschiedene SDKs.>