Vai alla navigazione
AvanzateModelli personalizzati

Groq Cloud

Collega un agente a un LLM personalizzato su Groq Cloud.

Panoramica

Groq Cloud offre un accesso semplice e rapido all’inferenza IA, con endpoint API compatibili con OpenAI in pochi clic.

Usa modelli disponibili apertamente leader come Llama, Mixtral e Gemma come cervello dei tuoi agenti ElevenLabs in pochi semplici passaggi.

Scegliere un modello

Per sfruttare al massimo gli agenti ElevenLabs, devi usare un modello che supporti l’uso di strumenti e output strutturati. Groq consiglia i seguenti modelli Llama-3.3 per la loro versatilità e le loro prestazioni:

  • meta-llama/llama-4-scout-17b-16e-instruct (finestra di contesto da 10 M di token) e supporto per 12 lingue (arabo, inglese, francese, tedesco, hindi, indonesiano, italiano, portoghese, spagnolo, tagalog, thailandese e vietnamita)
  • llama-3.3-70b-versatile (finestra di contesto da 128k | massimo 32.768 token di output)
  • llama-3.1-8b-instant (finestra di contesto da 128k | massimo 8.192 token di output)

Per questo motivo, consigliamo di usare meta-llama/llama-4-scout-17b-16e-instruct per il tuo agente ElevenLabs Agents.

Configura Llama 3.3 su Groq Cloud

1

Vai a console.groq.com/keys e crea una nuova chiave API.

Aggiungi segreto

2

Quando hai la tua chiave API, puoi testarla eseguendo il seguente comando curl:

curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'
3

Vai al tuo agente IA, scorri fino alla sezione “Secrets” e seleziona “Add Secret”. Dopo aver aggiunto il segreto, assicurati di fare clic su “Save” per renderlo disponibile al tuo agente.

Aggiungi segreto

4

Scegli “Custom LLM” dal menu a discesa.

Scegli un LLM personalizzato

5

Per l’URL del server, specifica l’endpoint API compatibile con OpenAI di Groq: https://api.groq.com/openai/v1. Per l’ID del modello, specifica meta-llama/llama-4-scout-17b-16e-instruct come indicato sopra e seleziona la tua chiave API dal menu a discesa.

Inserisci l'URL

6

Ora puoi fare clic su “Test AI Agent” per conversare con il tuo modello Llama 3.3 personalizzato.