LiteLLM Proxy

Proxy unifié pour 100+ providers LLM

→ Lancer LiteLLM Proxy ⭐ GitHub (18K⭐)← Hub

18K

GitHub ⭐

100+

Providers

OpenAI

API compat

🆓

OSS

À propos

LiteLLM proxy port 4000 sur S204. Unifie l'API de 100+ providers LLM (OpenAI, Anthropic, Cerebras, Groq, Mistral, Ollama) avec rate limiting, cost tracking, fallback automatique.

Capacités

🔀

100+ providers

OpenAI, Anthropic, Mistral, Ollama

💰

Cost tracking

Per-user, per-team

🚨

Rate limiting

Per API key

🔄

Fallback

Auto-failover models

📊

Langfuse

Tracing intégré

🐳

Docker

Isolé container

Spécifications

Licence

MIT

Container / Host

litellm

Port

4000

GitHub

18K⭐

Intégration WEVAL

Comment LiteLLM Proxy est wired

Proxy layer pour WEVIA Master cascade — unifie 15 providers IA dans une seule API.

Prêt à utiliser ?

→ Lancer LiteLLM Proxy ← Retour Services Hub