ErweitertBenutzerdefinierte Modelle

SambaNova Cloud

Verbinden Sie einen Agenten mit einem benutzerdefinierten LLM auf SambaNova Cloud.

Überblick

SambaNova Cloud ist der schnellste Anbieter der besten Open-Source-Modelle, darunter DeepSeek R1, DeepSeek V3, Llama 4 Maverick und weitere. Über einen OpenAI-kompatiblen API-Endpunkt können Sie Ihren ElevenLabs-Agenten in wenigen Minuten auf ElevenLabs einrichten.

Sehen Sie sich dieses Video mit einer Anleitung und Demo an, wie Sie Ihren ElevenLabs-Agents-Agenten so konfigurieren, dass er SambaNovas extrem schnelle LLMs nutzt.

Modell auswählen

Um die volle Leistung von ElevenLabs Agents zu nutzen, benötigen Sie ein Modell, das Tool-Nutzung und strukturierte Ausgaben unterstützt. SambaNova empfiehlt für Genauigkeit und Leistung die folgenden Modelle:

  • DeepSeek-V3-0324 (671B-Modell)
  • Meta-Llama-3.3-70B-Instruct
  • Llama-4-Maverick-17B-128E-Instruct
  • Qwen3-32B

Aktuelle Informationen zu modellspezifischen Kontextfenstern finden Sie auf dieser Seite.

Beachten Sie, dass Meta-Llama-3.3-70B-Instruct SambaNovas umfassend getestetes Modell ist. Falls ein Modell Probleme verursacht, können Sie dies auf SambaNovas Community-Seite melden.

Ihren ElevenLabs-Agenten mit einem SambaNova-LLM konfigurieren

1

Rufen Sie cloud.sambanova.ai/apis auf und erstellen Sie einen neuen API-Schlüssel.

Secret hinzufügen

2

Sobald Sie Ihren API-Schlüssel haben, können Sie ihn mit folgendem curl-Befehl testen:

curl -H "Authorization: Bearer <your-api-key>" \
 -H "Content-Type: application/json" \
 -d '{
"stream": true,
"model": "DeepSeek-V3-0324",
"messages": [
	{
		"role": "system",
		"content": "You are a helpful assistant"
	},
	{
		"role": "user",
		"content": "Hello"
	}
]
}' \
 -X POST https://api.sambanova.ai/v1/chat/completions
3

Erstellen Sie einen neuen KI-Agenten oder bearbeiten Sie einen vorhandenen.

4

Scrollen Sie zum Bereich „Workspace Secrets“ und wählen Sie „Add Secret“ aus. Nennen Sie den Schlüssel SAMBANOVA_API_KEY und kopieren Sie den Wert aus dem SambaNova-Cloud-Dashboard. Klicken Sie unbedingt auf „Save“, damit das Secret für Ihren Agenten verfügbar ist.

Secret hinzufügen

5

Wählen Sie „Custom LLM“ im Dropdown-Menü aus.

Benutzerdefiniertes LLM auswählen

6

Geben Sie als Server-URL den OpenAI-kompatiblen API-Endpunkt von SambaNova an: https://api.sambanova.ai/v1. Geben Sie als Modell-ID einen der oben genannten Modellnamen an, zum Beispiel Meta-Llama-3.3-70B-Instruct, und wählen Sie im Dropdown-Menü den API-Schlüssel SAMBANOVA_API_KEY aus.

URL eingeben

7

Setzen Sie die maximale Token-Anzahl auf 1024, um die Ausgabe des Agenten kurz zu halten. Fügen Sie außerdem im System-Prompt eine Anweisung hinzu, dass das Modell mit höchstens 500 Wörtern antworten soll.

URL eingeben

8

Speichern Sie Ihre Änderungen und klicken Sie auf „Test AI Agent“, um mit Ihrem SambaNova-gestützten Agenten zu chatten.