KI-API
Am besten geeignet, wenn Sie eine einheitliche Ebene über verschiedene Anbieter hinweg wünschen.
Vorteile
- Kann Änderungen an der Anwendung reduzieren, wenn Sie verschiedene Modellanbieter testen.
- Kann Routing, Schlüssel, Fallbacks und Nutzungsrichtlinien zentralisieren.
- Schafft eine einheitliche Integrationsfläche, an der sich Teams orientieren können.
Nachteile
- Anbieterspezifische Funktionen können ausgeblendet, umbenannt oder nur uneinheitlich unterstützt werden.
- Das Routing kann zusätzliche Latenz oder einen weiteren Fehlerpunkt verursachen.
- Sie müssen die Sicherheit, die Limits und die Verfügbarkeit des Gateways selbst bewerten.