API de IA
Ideal cuando quieres una capa coherente entre proveedores que cambian.
Ventajas
- Puede reducir los cambios en la aplicación al probar distintos proveedores de modelos.
- Puede centralizar el enrutamiento, las claves, las alternativas y las políticas de uso.
- Crea una única superficie de integración en torno a la cual los equipos pueden estandarizarse.
Desventajas
- Las funciones específicas del proveedor pueden estar ocultas, cambiar de nombre o contar con un soporte desigual.
- El enrutamiento puede añadir latencia u otro punto de fallo.
- Debes evaluar la seguridad, los límites y la disponibilidad propios de la pasarela.