Aggiorna stato

Panoramica

Lo strumento Aggiorna stato consente al tuo agente di impostare una o più variabili dinamiche mentre è in corso una conversazione. Come gli altri strumenti di sistema, modifica solo lo stato interno della conversazione: non chiama mai un’API esterna o una funzione lato client.

Usalo per registrare informazioni durante una chiamata, ad esempio per segnalare che una conversazione deve essere inoltrata a un livello superiore, memorizzare un valore fornito dall’utente o calcolare un valore derivato da altre variabili dinamiche.

Per applicare aggiornamenti di stato in un punto fisso di un workflow, anziché ogni volta che l’LLM chiama uno strumento, usa un nodo di aggiornamento dello stato. Accetta gli stessi aggiornamenti di stato.

Funzionalità

• Aggiornamenti multipli per chiamata: una singola chiamata dello strumento può assegnare fino a 50 variabili dinamiche contemporaneamente.
• Valori basati su espressioni: ogni valore è il risultato di un’espressione, che può combinare costanti, variabili dinamiche esistenti, valori estratti dall’LLM dalla conversazione e operatori.
• Estrazione LLM solo quando necessaria: lo strumento chiede all’LLM di estrarre parametri solo per gli aggiornamenti che lo richiedono. Gli aggiornamenti creati interamente da costanti e/o variabili dinamiche esistenti non aggiungono parametri alla chiamata della funzione.
• Disponibilità immediata: dopo l’esecuzione dello strumento, le variabili dinamiche aggiornate sono disponibili per il resto della conversazione: prompt successivi, altre chiamate di strumenti e override possono fare riferimento a esse, come a qualsiasi altra variabile dinamica.

Come funziona

Ogni aggiornamento di stato assegna il risultato di un’espressione a una variabile dinamica:

variable_name = expression

Un’espressione è uno dei seguenti tipi e le espressioni possono essere annidate tra loro per creare una logica più complessa:

Ad esempio, il seguente aggiornamento di stato imposta should_escalate su true se l’LLM ritiene che l’utente sia frustrato o se una variabile dinamica retry_count è già maggiore di 3:

should_escalate = (llm: "User sounds frustrated with the conversation") OR (retry_count > 3)

Configurazione

Casi d’uso

• Indicatori di escalation: imposta una variabile dinamica (ad esempio should_escalate) che un sistema a valle o una regola aziendale controlla, come illustrato nella guida all’integrazione Genesys.
• Registrazione delle informazioni estratte: memorizza come variabile dinamica un valore fornito dall’utente (un numero d’ordine, una preferenza, il reparto scelto) da usare più avanti nella conversazione.
• Valori derivati: calcola un valore da altre variabili dinamiche, ad esempio incrementando un contatore o combinando due variabili in una.

Scopo: consentire all’agente di aggiornare una o più variabili dinamiche in base alla conversazione, senza chiamare un’API esterna.

Condizioni di attivazione: l’LLM deve chiamare questo strumento quando:

• La conversazione fornisce informazioni da registrare (ad esempio, un flag di escalation, un’opzione scelta, un valore fornito dall’utente)
• Un aggiornamento dello stato configurato dipende da un valore che l’LLM deve valutare o estrarre dalla conversazione

Parametri:

I parametri della funzione dipendono dalla configurazione dello strumento. Ogni aggiornamento dello stato configurato che utilizza un valore estratto dall’LLM aggiunge una proprietà allo schema, denominata come la variabile dinamica di quell’aggiornamento e di tipo string, number o boolean. Gli aggiornamenti dello stato creati solo da costanti o altre variabili dinamiche non aggiungono parametri.

Formato della chiamata di funzione:

{
  "type": "function",
  "function": {
    "name": "update_state",
    "arguments": "{\"should_escalate\": true}"
  }
}

Implementazione: l’agente valuta ogni espressione configurata utilizzando i parametri estratti e le variabili dinamiche correnti della conversazione, quindi assegna i risultati alle corrispondenti variabili dinamiche. Non viene effettuata alcuna richiesta esterna.

FAQ