AI API
プロバイダーが変わっても一貫したレイヤーを使いたい場合に最適です。
メリット
- 異なるモデルプロバイダーを試す際に、アプリケーションの変更を減らせる可能性があります。
- ルーティング、キー、フォールバック、利用ポリシーを一元化できる可能性があります。
- チームが標準化の基盤として利用できる、単一の統合インターフェースを構築できます。
デメリット
- プロバイダー固有の機能が非表示になったり、名称変更されたり、サポート状況にばらつきが生じたりする可能性があります。
- ルーティングによって遅延や、別の障害発生ポイントが加わる可能性があります。
- ゲートウェイ自体のセキュリティ、制限、可用性を評価する必要があります。