Context engineering
Context engineering er den systematiske praksis at designe, strukturere og optimere den kontekst, der præsenteres for en sprogmodel for at styre dens output og opførsel.
Kort fortalt
Kort fortalt handler context engineering om at bygge den perfekte kontekst (prompt, instruktioner, eksempler) til en AI-model, så den giver præcis det svar, man ønsker.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Den systematiske tilgang til at konstruere den input-kontekst, der gives til en sprogmodel, med det formål at opnå specifikke outputkarakteristika som nøjagtighed, konsistens eller sikkerhed.
- Context engineering har vist sig at være afgørende for at få store sprogmodeller til at følge komplekse instruktioner korrekt. — Forskningsartikel om prompt engineering, 2023
- Ved hjælp af context engineering kan man minimere hallucinationer ved at give modellen præcise eksempler og afgrænse dens vidensområde. — Blogindlæg om LLM-best practices, 2024
Hvornår bruges det
Context engineering bruges især i forbindelse med store sprogmodeller (LLM'er) for at forbedre nøjagtighed, relevans og sikkerhed i modellens svar. Det omfatter teknikker som prompt-engineering, few-shot learning, og struktureret kontekst med eksempler og regler.
Kodeeksempel
response = openai.ChatCompletion.create(
model="gpt-4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "What is the capital of France?"},
{"role": "assistant", "content": "Paris"},
{"role": "user", "content": "What is the capital of Germany?"}
]
)Eksempel på context engineering: Systemmeddelelse definerer modellens rolle, og få-skuds eksempler giver kontekst for spørgsmål-svar format.
Oprindelse
Termen er sammensat af 'context' (kontekst) og 'engineering' (ingeniørarbejde), og opstod i slutningen af 2010'erne i takt med udbredelsen af store sprogmodeller.
Afledte ord
3Kilder
2- Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing
- The Power of Scale for Parameter-Efficient Prompt Tuning