funktionskald
Teknik, hvor en sprogmodel kan anmode om at udføre en foruddefineret funktion og integrere resultatet i sit svar.
Kort fortalt
En måde at give en AI mulighed for at kalde eksterne værktøjer eller API'er, så den kan hente data eller udføre handlinger uden for sin træningsdata.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
Mekanisme, hvor en LLM i en samtale kan generere en struktureret anmodning om at kalde en ekstern funktion, typisk repræsenteret som JSON, der specificerer funktionsnavn og argumenter.
- Modellen brugte funktionskald til at hente vejrudsigten via et API.
- Udvikleren definerede en funktion 'get_weather', som modellen kunne kalde.
Hvornår bruges det
Bruges i chatbot-applikationer, hvor modellen skal interagere med databaser, vejrtjenester eller andre systemer. Modellen returnerer et funktionskald som JSON, som applikationen eksekverer.
Kodeeksempel
import openai
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo",
messages=[{"role": "user", "content": "Hvad er vejret i København?"}],
functions=[{
"name": "get_weather",
"description": "Hent vejret for en by",
"parameters": {
"type": "object",
"properties": {
"location": {"type": "string", "description": "Byens navn"}
},
"required": ["location"]
}
}]
)
if response.choices[0].finish_reason == "function_call":
function_call = response.choices[0].message.function_call
# Eksekver funktionen med argumenterne
Eksempel på OpenAI API-kald, hvor modellen kan vælge at kalde en funktion 'get_weather'.
Oprindelse
Fra engelsk 'function calling', populært introduceret af OpenAI i 2023.