Structured output
En teknik, hvor en AI-model tvinges til at generere output i et foruddefineret format, typisk JSON.
Kort fortalt
Structured output betyder, at modellen svarer i et fast format som JSON, så du nemt kan bruge svaret i kode.
- Kategori
- teknik
- Niveau
- øvet
- Udtale
- ˈstrʌktʃərd ˈaʊtpʊt
Betydninger
1- 1
En teknik inden for kunstig intelligens og sprogmodeller, hvor outputtet begrænses til et specifikt, maskinlæsbart format som JSON, YAML eller XML, typisk for at lette videre databehandling.
- Ved at bruge structured output kan vi sikre, at modellen altid returnerer en gyldig JSON med de forventede felter.
- OpenAI's API understøtter structured output via parameteren 'response_format'.
Hvornår bruges det
Bruges når man har brug for at integrere LLM-output direkte i software, f.eks. til at udfylde datafelter, kalde API'er eller generere konfigurationer. Teknikken kan implementeres via prompt engineering, skabeloner eller native support som OpenAI's JSON mode.
Kodeeksempel
import openai
openai.api_key = "your-api-key"
response = openai.ChatCompletion.create(
model="gpt-4o",
messages=[{"role": "user", "content": "Extract name and age from: John is 30 years old."}],
response_format={"type": "json_object"}
)
print(response.choices[0].message.content)Eksempel på brug af OpenAIs JSON-funktion til at få struktureret output.
Oprindelse
Fra engelsk 'structured output', sammensat af 'structured' (struktureret) og 'output' (output).