- Frontend / KODAX School
- ↓ KODAX Identity & Policy Layer
- ↓ KODAX Secure AI Gateway
- → providerunabhängige Gateway-Schicht · OpenAI-kompatible API · Routing · Rate Limits · Budgets · Guardrails · Observability · Policy Enforcement
- Technisch umsetzbar mit etablierten Open-Source-Gateway-Technologien wie LiteLLM oder vergleichbaren Komponenten.
- ↓ Privacy Layer / Guardrails
- ↓ Freigegebene Endpoints
- OpenAI EU · Anthropic / AWS Bedrock EU · Mistral EU · Apertus (CH-Deployment) · lokale Open-Source-Modelle
- ↓ Observability · Kostenkontrolle · Audit
Mögliche Gateway-Funktionen: Provider-Abstraktion, Routing, kontrollierter Fallback, Load Balancing, Virtual Keys, Budgets, Spend Tracking, Rate Limits, Request Logging, Guardrails, OpenAI-kompatible API.
Die Gateway-Technologie ist eine austauschbare Infrastrukturkomponente — nicht das KODAX-Produkt. Die konkrete Zusammensetzung kann sich weiterentwickeln; entscheidend sind die verbindlichen KODAX Policies.