ErweitertBenutzerdefinierte Modelle

Cloudflare Workers AI

Verbinden Sie einen Agenten mit einem benutzerdefinierten LLM auf Cloudflare Workers AI.

Überblick

Die Workers-AI-Plattform von Cloudflare ermöglicht es Ihnen, Machine-Learning-Modelle mit serverlosen GPUs im globalen Netzwerk von Cloudflare auszuführen – auch im kostenlosen Tarif.

Workers AI bietet eine kuratierte Auswahl beliebter Open-Source-Modelle, mit denen Sie Aufgaben wie Bildklassifizierung, Textgenerierung, Objekterkennung und mehr ausführen können.

Modell auswählen

Um das volle Potenzial von ElevenLabs Agents zu nutzen, benötigen Sie ein Modell, das Function Calling unterstützt.

Suchen Sie im Modellkatalog nach Modellen mit der Eigenschaft Function Calling.

DeepSeek R1 ausprobieren

Cloudflare Workers AI bietet Zugriff auf DeepSeek-R1-Distill-Qwen-32B, ein von DeepSeek-R1 auf Basis von Qwen2.5 destilliertes Modell. Es übertrifft OpenAI-o1-mini bei verschiedenen Benchmarks und erzielt neue Bestwerte für dichte Modelle.

DeepSeek R1 in Cloudflare Workers AI einrichten

1

Öffnen Sie dash.cloudflare.com und erstellen Sie ein Konto oder melden Sie sich an. Wählen Sie in der Navigation AI > Workers AI und klicken Sie dann auf das Widget „Use REST API“.

Secret hinzufügen

2

Sobald Sie Ihren API-Schlüssel haben, können Sie ihn direkt mit einer curl-Anfrage testen. Cloudflare stellt einen OpenAI-kompatiblen API-Endpunkt bereit, was dies besonders einfach macht. Notieren Sie sich jetzt das Modell und den vollständigen Endpunkt – einschließlich der Account-ID. Zum Beispiel: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'
3

Öffnen Sie Ihren KI-Agenten, scrollen Sie zum Bereich „Secrets“ und wählen Sie „Add Secret“. Klicken Sie nach dem Hinzufügen des Secrets auf „Save“, damit es für Ihren Agenten verfügbar ist.

Secret hinzufügen

4

Wählen Sie im Dropdown-Menü „Custom LLM“.

Benutzerdefiniertes LLM auswählen

5

Geben Sie für die Server-URL den OpenAI-kompatiblen API-Endpunkt von Cloudflare an: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/. Geben Sie für die Modell-ID wie oben beschrieben @cf/deepseek-ai/deepseek-r1-distill-qwen-32b an und wählen Sie Ihren API-Schlüssel im Dropdown-Menü aus.

URL eingeben

6

Klicken Sie jetzt auf „Test AI Agent“, um mit Ihrem benutzerdefinierten DeepSeek-R1-Modell zu chatten.