API de IA
Ideal quando você quer uma camada consistente entre provedores em constante mudança.
Prós
- Pode reduzir as alterações no aplicativo ao testar diferentes provedores de modelos.
- Pode centralizar o roteamento, as chaves, os recursos de fallback e as políticas de uso.
- Cria uma única superfície de integração para as equipes adotarem como padrão.
Contras
- Os recursos específicos do provedor podem ficar ocultos, ser renomeados ou ter suporte inconsistente.
- O roteamento pode adicionar latência ou outro ponto de falha.
- Você deve avaliar a segurança, os limites e a disponibilidade do próprio gateway.