conditional routing

En teknik, hvor en models eller systems beslutnings-flow dynamisk dirigeres til forskellige behandlingsveje baseret på input-specifikke betingelser.

Kort fortalt

Conditional routing gør det muligt for et AI-system at vælge den rigtige 'behandler' eller 'sti' afhængigt af hvad input er, så opgaven løses mere effektivt.

Kategori
teknik
Niveau
øvet

Betydninger

1
  1. 1

    Mekanisme i AI-systemer, hvor input betinget dirigeres til forskellige behandlingsmoduler eller stier baseret på foruddefinerede regler eller en lært router-funktion.

    • I en RAG-pipeline bruges conditional routing til at vælge mellem flere datakilder afhængigt af forespørgslens domæne.
    • En blanding af eksperter (MoE) anvender conditional routing gennem en gate-funktion, der aktiverer kun de relevante under-netværk for et givent input.

Hvornår bruges det

Conditional routing anvendes typisk i modulære LLM-arkitekturer, RAG-pipelines og multi-agent-systemer for at reducere beregningsomkostninger og forbedre specialisering. For eksempel kan en router først klassificere en forespørgsel og derefter sende den til den mest relevante under-model eller vidensbase.

Kodeeksempel

def route_query(query: str) -> str:
    if 'weather' in query.lower():
        return 'weather_agent'
    elif 'math' in query.lower():
        return 'math_agent'
    else:
        return 'general_agent'

Simpel regelbaseret conditional routing, der sender forespørgsler til forskellige agenter baseret på nøgleord.

Oprindelse

Sammensat af 'conditional' (betinget) og 'routing' (dirigering), lånt fra netværksterminologi, hvor routing betyder at vælge en sti for data. Her overført til AI-systemers beslutningsflow.