Cloudflare Workers AI

Collega un agente a un LLM personalizzato su Cloudflare Workers AI.

Panoramica

La piattaforma Workers AI di Cloudflare ti permette di eseguire modelli di machine learning, supportati da GPU serverless, sulla rete globale di Cloudflare, anche con il piano gratuito.

Workers AI include una selezione curata di popolari modelli open source che ti consentono di svolgere attività come la classificazione delle immagini, la generazione di testo, il rilevamento di oggetti e altro ancora.

Scegliere un modello

Per sfruttare al massimo ElevenLabs Agents, devi usare un modello che supporti il function calling.

Quando esplori il catalogo dei modelli, cerca quelli che riportano la proprietà function calling accanto al nome.

Prova DeepSeek R1

Cloudflare Workers AI offre accesso a DeepSeek-R1-Distill-Qwen-32B, un modello distillato da DeepSeek-R1 basato su Qwen2.5. Supera OpenAI-o1-mini in vari benchmark, ottenendo nuovi risultati all’avanguardia per i modelli densi.

Configura DeepSeek R1 su Cloudflare Workers AI

Vai a dash.cloudflare.com e crea un account oppure accedi al tuo. Nella barra di navigazione, seleziona AI > Workers AI, quindi fai clic sul widget “Use REST API”.

Quando hai la tua chiave API, puoi provarla subito con una richiesta curl. Cloudflare fornisce un endpoint API compatibile con OpenAI, rendendo tutto molto più pratico. A questo punto, annota il modello e l’endpoint completo, incluso l’ID dell’account. Ad esempio: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}c/ai/v1/.

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/chat/completions \
-X POST \
-H "Authorization: Bearer {API_TOKEN}" \
-d '{
    "model": "@cf/deepseek-ai/deepseek-r1-distill-qwen-32b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "How many Rs in the word Strawberry?"}
    ],
    "stream": false
  }'

Vai al tuo agente IA, scorri fino alla sezione “Secrets” e seleziona “Add Secret”. Dopo aver aggiunto il segreto, assicurati di fare clic su “Save” per renderlo disponibile al tuo agente.

Scegli “Custom LLM” dal menu a discesa.

Per l’URL del server, specifica l’endpoint API compatibile con OpenAI di Cloudflare: https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/v1/. Per l’ID del modello, specifica @cf/deepseek-ai/deepseek-r1-distill-qwen-32b come indicato sopra e seleziona la tua chiave API dal menu a discesa.

Ora puoi fare clic su “Test AI Agent” per conversare con il tuo modello DeepSeek R1 personalizzato.