Groq Cloud

परिचय

Groq Cloud तेज़ AI inference का आसान एक्सेस देता है और कुछ ही क्लिक में OpenAI-compatible API endpoints उपलब्ध कराता है।

कुछ आसान चरणों में Llama, Mixtral और Gemma जैसे प्रमुख सार्वजनिक रूप से उपलब्ध मॉडल को अपने ElevenLabs एजेंट्स का दिमाग बनाएं।

मॉडल चुनना

ElevenLabs एजेंट्स की पूरी क्षमता का इस्तेमाल करने के लिए, आपको ऐसा मॉडल चाहिए जो tool use और structured outputs को सपोर्ट करे। Groq अपनी बहुमुखी प्रतिभा और प्रदर्शन के लिए नीचे दिए गए Llama-3.3 मॉडल सुझाता है:

• meta-llama/llama-4-scout-17b-16e-instruct (10M token context window) और 12 भाषाओं का समर्थन (अरबी, अंग्रेज़ी, फ़्रेंच, जर्मन, हिंदी, इंडोनेशियाई, इतालवी, पुर्तगाली, स्पेनिश, तागालोग, थाई और वियतनामी)
• llama-3.3-70b-versatile (128k context window | 32,768 अधिकतम output tokens)
• llama-3.1-8b-instant (128k context window | 8,192 अधिकतम output tokens)

इसे ध्यान में रखते हुए, अपने ElevenLabs Agents एजेंट के लिए meta-llama/llama-4-scout-17b-16e-instruct इस्तेमाल करने की सलाह दी जाती है।

Groq Cloud पर Llama 3.3 सेट अप करें

curl https://api.groq.com/openai/v1/chat/completions -s \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $GROQ_API_KEY" \
-d '{
"model": "llama-3.3-70b-versatile",
"messages": [{
    "role": "user",
    "content": "Hello, how are you?"
}]
}'