function call API
En API, der gør det muligt for en sprogmodel at returnere strukturerede kald til eksterne funktioner i stedet for naturligt sprog.
Kort fortalt
En måde for AI'en at bede om at udføre bestemte handlinger, som at hente data eller køre kode, ved at udsende et struktureret funktionskald.
- Kategori
- teknik
- Niveau
- øvet
Betydninger
1- 1
En mekanisme i LLM API'er, hvor modellen kan returnere et struktureret JSON-objekt, der specificerer et funktionsnavn og argumenter, i stedet for et tekstsvar.
- Ved at bruge function call API kan en assistent hente vejret ved at kalde en ekstern vejrfunktion.
Hvornår bruges det
Function call API bruges typisk i agent-baserede systemer, hvor en LLM skal interagere med eksterne værktøjer eller datakilder. Udviklere definerer funktioner med beskrivelser, og modellen vælger, hvilken der skal kaldes baseret på brugerens forespørgsel.
Kodeeksempel
import openai
functions = [
{
"name": "get_weather",
"description": "Get the weather for a location",
"parameters": {
"type": "object",
"properties": {
"location": {"type": "string", "description": "City name"}
},
"required": ["location"]
}
}
]
response = openai.ChatCompletion.create(
model="gpt-4",
messages=[{"role": "user", "content": "What's the weather in Copenhagen?"}],
functions=functions
)
if response.choices[0].finish_reason == "function_call":
function_call = response.choices[0].message.function_call
print(f"Calling {function_call.name} with {function_call.arguments}")Eksempel på brug af function call API med OpenAI's API til at definere en vejrfunktion og kalde den.
Oprindelse
Begrebet stammer fra traditionel softwareudvikling, hvor 'function call' betyder at kalde en funktion, kombineret med 'API' (Application Programming Interface). I forbindelse med LLM'er blev det introduceret af OpenAI i 2023.