Quando un agente deve scegliere tra decine di funzioni, il costo non è solo nei token: cresce anche il rischio che selezioni lo strumento sbagliato. Google ha introdotto in anteprima Tool Retrieval nella Gemini Interactions API per evitare di inviare a ogni richiesta tutti gli schemi completi delle funzioni. Per una PMI che costruisce assistenti collegati a CRM, ticket, catalogo e fatturazione, l’idea utile è semplice: tenere immediatamente disponibili gli strumenti frequenti e caricare il dettaglio degli altri soltanto quando serve.
Il problema non è avere molte funzioni, ma spiegarle tutte ogni volta
Una funzione ben descritta aiuta il modello, ma una libreria affollata porta con sé decine di parametri, esempi e casi limite. Se quell’intero materiale entra in ogni prompt, aumenta l’input da pagare e diventa più difficile distinguere un’azione comune da una rara. Tool Retrieval lascia al modello nome e descrizione degli strumenti differiti, mentre rinvia lo schema dei parametri al momento in cui l’azione è davvero pertinente. Google lo presenta come funzionalità preview della Interactions API: non va quindi trattata come una scorciatoia da mettere in produzione senza osservabilità. È però una scelta architetturale sensata per un agente che ha pochi strumenti usati spesso e una coda lunga di integrazioni specialistiche. Il vantaggio da cercare non è un numero universale di token risparmiati: è un contesto più piccolo e leggibile per ogni richiesta ordinaria.
Come applicarlo senza delegare decisioni delicate al modello
Parti dall’inventario delle funzioni che il tuo agente può chiamare. Lascia caricate in partenza solo quelle che servono nella maggioranza dei casi: per esempio cercare un cliente, leggere una pratica o aprire un ticket. Per le funzioni rare, imposta defer_loading: true e aggiungi lo strumento tool_search, come indicato nella documentazione di annuncio di Google. Dai alle descrizioni un obiettivo preciso e un confine esplicito: “prepara un rimborso” è più chiaro di “gestisce pagamenti”. Mantieni comunque fuori dal modello le autorizzazioni: ricerca dello strumento, validazione dei parametri e conferma umana devono restare passaggi distinti quando l’azione cambia denaro, dati personali o stato di un ordine. Lo stesso principio vale se stai scegliendo fra framework e SDK diretto: prima separa il flusso di lavoro dalle funzioni davvero necessarie, come in questa guida su agenti AI, LangChain e SDK.
Il controllo da fare prima di misurare costi e latenza
Non attivare il recupero differito e basta. Registra per ogni richiesta quali strumenti il modello ha cercato, quali schemi ha ricevuto e quale funzione ha poi chiamato: la Interactions API espone questi passaggi nella risposta. Prepara almeno dieci richieste reali, comprese quelle ambigue, e confronta quattro segnali: correttezza della funzione scelta, parametri mancanti, token in input e tempo di risposta. Google specifica che Tool Retrieval non ha una tariffa separata: i token restano fatturati secondo il modello e il risparmio dipende dagli schemi che non vengono caricati. L’errore da evitare è differire anche l’azione più frequente o confondere la riduzione del contesto con un permesso operativo. La take finale è pratica: usa Tool Retrieval per rendere l’agente più selettivo, ma conserva nel tuo backend i controlli che decidono se quell’azione può davvero partire.

