prompt crafting

1. 1

   Processen med at designe og iterativt forbedre prompts for at opnå optimale svar fra en sprogmodel, ofte ved at inkludere kontekst, eksempler eller specifikke formateringskrav.

   • Ved prompt crafting kan man tilføje et par eksempler i prompten for at vise modellen, hvilket format svaret skal have.
   • Effektiv prompt crafting kræver forståelse af modellens styrker og begrænsninger.

Prompt crafting bruges i praksis til at forbedre kvaliteten af modelsvar, reducere hallucinationer og styre outputtet i en bestemt retning. Det er særligt vigtigt ved komplekse opgaver som ræsonnement, klassifikation og tekstgenerering.

import openai

system_prompt = "You are a helpful assistant that classifies sentiment."
user_prompt = "Classify the following text as positive, negative, or neutral: 'I love this product!'"

response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": system_prompt},
        {"role": "user", "content": user_prompt}
    ]
)
print(response.choices[0].message.content)

Eksempel på prompt crafting, hvor en systemprompt definerer rollen og en brugerprompt angiver opgaven. Modellen returnerer en sentimentklassifikation.

Sammensat af engelsk 'prompt' (instruktion) og 'crafting' (kunstfærdig udformning). Udtrykket opstod i takt med udbredelsen af store sprogmodeller som GPT-3.

• Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing
• Prompt Engineering Guide