Tool calling
En teknik hvor en sprogmodel kan anmode om at udføre en foruddefineret funktion (værktøj) og indlejre resultatet i en samtale.
Kort fortalt
Tool calling gør det muligt for en AI at bede om at bruge eksterne værktøjer som at søge på nettet eller beregne noget.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Mekanisme i LLM'er hvor modellen udsender en struktureret anmodning om at kalde en ekstern funktion med bestemte argumenter, i stedet for at generere et almindeligt tekstsvar.
- I OpenAI's API kan en model kalde et værktøj for at hente aktuelle vejrdata. — OpenAI API dokumentation, 2023
- Tool calling gør det muligt for en assistent at udføre beregninger ved at kalde en regnefunktion.
Hvornår bruges det
Bruges i chatbots og AI-agenter til at udføre handlinger uden for modellens interne viden, fx at slå data op, sende e-mails eller udføre beregninger. Modellen returnerer et struktureret kald, som en applikation udfører.
Kodeeksempel
{
"name": "get_weather",
"description": "Get the current weather for a location",
"parameters": {
"type": "object",
"properties": {
"location": { "type": "string" }
},
"required": ["location"]
}
}Eksempel på værktøjsdefinition i JSON-format brugt til tool calling.
Oprindelse
Begrebet stammer fra programmering, hvor en funktion kaldes (function call). I AI-sammenhæng tilpasset til modellers evne til at anmode om eksekvering af værktøjer.
Afledte ord
2Kilder
2- OpenAI Function Calling Documentation
- Tool Use in LLMs (Anthropic)