Google hat am 19. November Tool Retrieval als Vorschau eingeführt und damit die Übergabe großer Funktionsbibliotheken an Gemini verändert. Entwickler können Parameterschemata erst bei Bedarf laden, statt sie bei jeder Anfrage vollständig zu senden.
Die Ankündigung verortet die Funktion in der Interactions API. Google will Eingabe-Token reduzieren und die Werkzeugauswahl bei wachsenden Bibliotheken präzise halten. Tatsächliche Einsparungen und Zuverlässigkeit hängen weiterhin von der Anwendung ab.
Namen bleiben sichtbar, Schemata warten
Für die serverseitige Suche ergänzen Entwickler tool_search und setzen bei ausgewählten Funktionen defer_loading: true. Das Modell sieht weiterhin Namen und Beschreibungen aller zurückgestellten Tools. Parameterschemata bleiben bis zur Anforderung außerhalb des Kontexts.
Wählt das Modell eine Funktion, fordert es sie namentlich an. Die API lädt das Schema, und das Modell erzeugt innerhalb derselben Anfrage den Funktionsaufruf. Suche, Ergebnis und Aufruf sind in interaction.steps sichtbar und prüfbar.
Googles Beispiel verwendet gemini-4-hydrogen, um für die beschädigte Bestellung A-1042 eine Erstattung von 40 Dollar anzufordern. Das Modell findet issue_refund und übergibt Bestellung und Betrag. Die Anwendung muss die Erstattung weiterhin ausführen und function_result zurückgeben. Die Schemasuche bewegt weder Geld noch autorisiert sie die Transaktion.
Für sensible Werkzeuge ist diese Grenze wichtig. Bessere Auffindbarkeit ersetzt weder Berechtigungen noch Validierung oder Geschäftsregeln.
Die Serversuche braucht keinen eigenen Index
Bei der serververwalteten Variante müssen Entwickler keinen Suchindex betreiben. Häufige Tools können vollständig vorab deklariert bleiben, seltenere Funktionen werden verzögert geladen. Namen und Beschreibungen bleiben deshalb wichtig, auch wenn große Schemata aus dem Anfangskontext verschwinden.
Auch entfernte MCP-Server werden unterstützt. Mit defer_loading: true am mcp_server laden dessen Werkzeuge nach Bedarf, ohne sie einzeln aufzulisten.
Laut Google funktioniert dies mit Präfix-Caching: Verzögerte Schemata fehlen am Prompt-Anfang und werden später im Gespräch ergänzt. Das hält den gecachten Präfix über Gesprächsrunden stabil. Nachgeladene Schemata werden dadurch nicht kostenlos.
Beim Client bleibt das Anwendungsregister maßgeblich
Anwendungen mit eigenem Register, Embedding-Index oder nutzerbezogenem Berechtigungsfilter können Client-Ausführung wählen. Dafür deklarieren sie tool_search mit "execution": "client", Suchfunktion und Parametern.
Fordert das Modell eine Suche an, schlägt die Anwendung nach und liefert passende Funktionsschemata per function_result. Googles Fortsetzungsbeispiel verbindet die nächste Anfrage über previous_interaction_id mit der bestehenden Interaktion.
Jede Suche benötigt dabei einen zusätzlichen Kommunikationsumlauf, weil die Anwendung die Abfrage ausführt. Dafür müssen Tools nicht vollständig vorab bekannt sein. Eine im Gespräch neu verbundene Integration kann Werkzeuge hinzufügen; das eigene Register bestimmt die zurückgegebenen Kandidaten.
Das ist eine andere Abwägung als bei der Serversuche. Mehr Kontrolle über die Auswahl bringt einen zusätzlichen Anwendungsschritt samt Latenz und Fehlerbehandlung.
Die Ersparnis hängt von ungeladenen Schemata ab
Tool Retrieval kostet keine separate Gebühr. Eingabe- und Ausgabe-Token werden zum normalen Tarif des verwendeten Modells berechnet. tool_search fügt einen kleinen festen Eingabeblock hinzu; jedes geladene Schema wird für den Rest des Gesprächs als Eingabe abgerechnet.
Gespart wird durch Schemata, die nie in den Kontext gelangen. Eine große Bibliothek mit kleiner relevanter Teilmenge bietet mehr Potenzial als ein Gespräch, das schließlich fast alles lädt. Google empfiehlt Messungen am eigenen Verkehr und nennt keinen allgemeinen Prozentsatz.
Die Vorschau unterstützt Gemini 3.6 und spätere Modelle einschließlich aller Gemini-4-Modelle innerhalb der Interactions API. Das gilt nicht automatisch für jede API-Oberfläche. Entwickler sollten nun Token-Verbrauch, Werkzeugauswahl und Client-Suchlatenz ihrer eigenen Anwendung unter diesen Bedingungen prüfen.
