deliberativ arkitektur

1. 1

   En arkitektur for sprogmodeller, hvor modellen genererer en sekvens af mellemliggende ræsonnementstrin (ofte i naturligt sprog) og bruger dem til at nå frem til et endeligt svar, typisk med mulighed for selv-evaluering og iteration.

   • Modellen anvender en deliberativ arkitektur til at generere beviser i matematiske opgaver.
   • Deliberativ arkitektur gør det muligt for modellen at rette egne fejl ved at revidere ræsonnementstrin.

Bruges i sprogmodeller og AI-systemer, hvor ræsonnement er vigtigt, fx til matematikopgaver, logikproblemer eller komplekse beslutninger. Modellen genererer først et internt 'tankeforløb', som den derefter evaluerer og forbedrer, før den leverer det endelige svar.

class DeliberativeModel:
    def __init__(self, base_model):
        self.model = base_model
    def reason(self, prompt):
        steps = self.generate_steps(prompt)
        for _ in range(max_iterations):
            evaluation = self.evaluate_steps(steps)
            if evaluation.confidence > threshold:
                break
            steps = self.refine_steps(steps, evaluation)
        return self.synthesize_answer(steps)

Simpel Python-klasse, der illustrerer en deliberativ arkitektur: generer trin, evaluer, iterér.

Afledt af 'deliberation' (omhyggelig overvejelse) og 'arkitektur' (struktur), i betydningen en systemdesign, der understøtter bevidst ræsonnement.

• Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei et al., 2022)