chat completion endpoint
En API-endpoint, der accepterer en liste af beskeder og returnerer et modelgenereret svar.
Kort fortalt
Det er den adresse på en server, du sender en samtalehistorie til, og som svarer med en AI-skrevet tekst.
- Kategori
- teknik
- Niveau
- begynder
Betydninger
1- 1
Specifik API-rute, der bruges til at generere svar i en samtale ved at sende en sekvens af beskeder (typisk med roller som bruger, assistent, system) til en sprogmodel.
- Klienten kalder chat completion endpoint på /v1/chat/completions med beskedlisten som input. — OpenAI API-dokumentation
- For at få oversættelsen sender vi beskeden til chat completion endpoint og modtager outputtet.
Hvornår bruges det
Chat completion endpoints bruges i applikationer, der integrerer samtale-AI, f.eks. chatbots og virtuelle assistenter. Klienten sender en POST-forespørgsel med en række beskeder og modtager en modelgenereret fortsættelse.
Kodeeksempel
import openai
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=[
{"role": "user", "content": "Hvordan virker en transformer?"}
]
)
print(response.choices[0].message.content)Eksempel på brug af chat completion endpoint via OpenAI's Python-bibliotek.
Oprindelse
Sammensat af 'chat' (samtale), 'completion' (fuldførelse – fra sprogmodellers opgave at fuldføre tekst) og 'endpoint' (endepunkt i API-sammenhæng).