Prompt engineering

Prompt engineering er den systematiske praksis at designe, formatere og optimere inputprompter for at styre adfærden af store sprogmodeller (LLM'er) mod et ønsket output.

Kort fortalt

Det er kunsten at stille de rigtige spørgsmål til en AI, så den giver det svar, du ønsker – ved at vælge ord, struktur og kontekst med omtanke.

Kategori
teknik
Niveau
øvet
Udtale
/prɒmpt ˌendʒɪˈnɪərɪŋ/

Betydninger

2
  1. 1

    Den overordnede disciplin inden for AI-interaktion, der beskæftiger sig med at formulere og optimere prompter for at opnå pålidelige og nøjagtige svar fra sprogmodeller.

    • Prompt engineering har vist sig afgørende for at reducere hallucinationer i LLM'ers output.Forskningsartikel, 2023
    • Effektiv prompt engineering kræver forståelse af både modelarkitektur og det specifikke domæne.
  2. 2

    En specifik teknik eller metode inden for prompt engineering, såsom few-shot learning, chain-of-thought prompting eller rollespil.

    • Chain-of-thought prompting er en avanceret form for prompt engineering, der forbedrer ræsonnement i flertrinsopgaver.Wei et al., 2022
    • Few-shot prompt engineering gør det muligt at tilpasse modellen til nye opgaver uden finjustering.Brown et al., 2020

Hvornår bruges det

Prompt engineering bruges i alle applikationer, der bygger på sprogmodeller, fra chatbots og tekstgenerering til kodeassistance og dataanalyse. Det dækker alt fra simple instruktioner til komplekse kæder af prompter (chain-of-thought) og integration af eksterne værktøjer.

Kodeeksempel

import openai

response = openai.Completion.create(
    model="text-davinci-003",
    prompt="Forklar prompt engineering i én sætning.",
    max_tokens=50
)
print(response.choices[0].text.strip())

Eksempel på brug af OpenAI's API til at sende en prompt og modtage et svar. Prompt engineering handler om at udforme prompten optimalt.

Oprindelse

Udtrykket kommer fra software engineering og refererer til det ingeniørmæssige arbejde med præcist at definere input (prompts) til sprogmodeller, ofte med iteration og test.

Afledte ord

3

Kilder

3