Cloudflare Workers AI

Anslut en agent till en anpassad LLM på Cloudflare Workers AI.

Översikt

Cloudflares Workers AI-plattform låter dig köra maskininlärningsmodeller med serverlösa GPU:er i Cloudflares globala nätverk, även med gratisplanen!

Workers AI innehåller ett utvalt urval av populära modeller med öppen källkod som låter dig utföra uppgifter som bildklassificering, textgenerering, objektdetektering och mycket mer.

Välja en modell

För att använda hela kraften i ElevenLabs Agents behöver du använda en modell som stöder funktionsanrop.

När du bläddrar i modellkatalogen ska du leta efter modeller med egenskapen för funktionsanrop bredvid sig.

Testa DeepSeek R1

Cloudflare Workers AI ger åtkomst till DeepSeek-R1-Distill-Qwen-32B, en modell destillerad från DeepSeek-R1 baserad på Qwen2.5. Den överträffar OpenAI-o1-mini i olika riktmärken och uppnår nya toppresultat för täta modeller.

Konfigurera DeepSeek R1 i Cloudflare Workers AI

Gå till dash.cloudflare.com och skapa ett konto eller logga in. I navigeringen väljer du AI > Workers AI och klickar sedan på widgeten “Use REST API”.

När du har din API-nyckel kan du testa den direkt med en curl-begäran. Cloudflare erbjuder en OpenAI-kompatibel API-slutpunkt, vilket gör detta mycket smidigt. Anteckna nu modellen och den fullständiga slutpunkten — inklusive konto-ID:t. Till exempel: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'

Gå till din AI-agent, skrolla ner till avsnittet “Secrets” och välj “Add Secret”. När du har lagt till hemligheten måste du klicka på “Save” för att göra den tillgänglig för din agent.

Välj “Custom LLM” i rullgardinsmenyn.

För server-URL:en anger du Cloudflares OpenAI-kompatibla API-slutpunkt: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/. För modell-ID:t anger du @cf/deepseek-ai/deepseek-r1-distill-qwen-32b enligt ovan och väljer din API-nyckel i rullgardinsmenyn.

Nu kan du klicka på “Test AI Agent” för att chatta med din anpassade DeepSeek R1-modell.