foundation model prompting

Praksis med at designe input-prompter til at styre fundamentale modellers output.

Kort fortalt

Foundation model prompting handler om at formulere spørgsmål eller instruktioner på en bestemt måde for at få en stor sprogmodel til at svare præcist, som du ønsker.

Kategori
teknik
Niveau
øvet

Betydninger

2
  1. 1

    Overordnet praksis med at formulere inputprompter for at opnå ønsket adfærd fra en fundamental model.

    • Ved foundation model prompting justerer brugeren prompten for at forbedre modeloutputtet uden at ændre modelvægtene.
  2. 2

    Sæt af teknikker som few-shot, chain-of-thought og in-context learning der anvendes til at guide fundamentale modeller.

    • Chain-of-thought prompting er en avanceret form for foundation model prompting, hvor modellen opfordres til at tænke trinvis.Wei et al. (2022) 'Chain-of-Thought Prompting Elicits Reasoning in Large Language Models'

Hvornår bruges det

Bruges i en lang række opgaver som tekstgenerering, oversættelse, kodning og analyse. Prompting kan inkludere teknikker som few-shot, chain-of-thought og systemprompter. Det er en central metode til at interagere med fundamentale modeller.

Kodeeksempel

import openai

response = openai.Completion.create(
  model="text-davinci-003",
  prompt="Translate the following to Danish: 'Hello, how are you?",
  max_tokens=50
)
print(response.choices[0].text)

Et simpelt eksempel på foundation model prompting ved brug af OpenAI API.

Oprindelse

Sammensat af 'foundation model' (fundamental model) og 'prompting' (at anspore/opfordre).

Afledte ord

4

Kilder

2
  • Brown et al. (2020) 'Language Models are Few-Shot Learners'
  • Wei et al. (2022) 'Chain-of-Thought Prompting Elicits Reasoning in Large Language Models'