prompt-optimeringsalgoritme

1. 1

   En iterativ algoritme der justerer en prompts tekst for at maksimere en given målfunktion, såsom nøjagtighed eller relevans af modeloutput.

   • En prompt-optimeringsalgoritme kan forbedre en simpel prompt som 'Oversæt til dansk' til en mere effektiv version. — Eksempel, 2024
   • Forskere brugte en prompt-optimeringsalgoritme til at automatisere design af prompts til juridisk tekstanalyse. — Forskningsartikel, 2024

Prompt-optimeringsalgoritmer bruges når man ønsker at maksimere ydeevnen af en sprogmodel på en specifik opgave uden manuel prompt-tuning. De anvendes typisk i automatiseret prompt engineering og i forbindelse med modelfinjustering.

import numpy as np
from llm import LLM

def optimize_prompt(initial_prompt, objective_fn, iterations=10):
    prompt = initial_prompt
    best_prompt, best_score = prompt, objective_fn(prompt)
    for _ in range(iterations):
        # Simpel mutation: tilføj eller fjern ord
        new_prompt = mutate(prompt)
        score = objective_fn(new_prompt)
        if score > best_score:
            best_prompt, best_score = new_prompt, score
        prompt = best_prompt
    return best_prompt

Simpel implementering af en prompt-optimeringsalgoritme der muterer prompten baseret på en objektivfunktion.

Sammensat af 'prompt' (instruktion til AI) og 'optimeringsalgoritme' (algoritme der finder den bedste løsning).

• Automatic Prompt Optimization (APO)
• Large Language Models Are Human-Level Prompt Engineers