Tool use
Evnen hos en sprogmodel til at interagere med eksterne værktøjer som API'er, databaser eller regnemaskiner for at udføre opgaver, der kræver ekstern beregning eller information.
Kort fortalt
Tool use betyder, at en AI kan 'ringe' til andre programmer for at få svar eller udføre handlinger, fx slå op i en database eller regne noget ud.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Evnen hos en AI-model til at benytte eksterne værktøjer (f.eks. API'er, regnemaskiner, søgemaskiner) som en del af sin inferensproces for at udvide dens kapaciteter ud over træningsdata.
- Modellen brugte tool use til at kalde en regnemaskine for at løse det komplekse matematiske problem. — Eksempel fra AI-litteratur
- Tool use gør det muligt for sprogmodellen at hente opdaterede oplysninger via en søgemaskine i stedet for at stole på statisk viden. — Eksempel fra AI-litteratur
Hvornår bruges det
Tool use anvendes i agent-systemer, hvor modellen skal planlægge og udføre handlinger i den virkelige verden, fx ved at kalde en vejr-API. Det kræver, at modellen kan generere strukturerede kald (som JSON) og håndtere svar fra værktøjet.
Kodeeksempel
# Imaginært kald til model med tool definition
response = model.complete(prompt, tools=[{"type": "function", "function": {"name": "calculate", "parameters": {"a": 5, "b": 3}}}])
if response.function_call:
result = execute_tool(response.function_call)
model.complete(prompt + result)Eksempel på, hvordan en sprogmodel kan foretage et tool call ved at sende en funktionsdefinition og derefter udføre den eksterne funktion.
Oprindelse
Termen stammer fra forskning i at give sprogmodeller adgang til eksterne funktioner, især fremhævet i arbejdet med 'Toolformer' (2023).
Afledte ord
2Kilder
1- Toolformer: Language Models Can Teach Themselves to Use Tools (2023)