Ga naar inhoud

LiteLLM

Met LiteLLM kunt u meer dan 100 grote taalmodellen (LLM 's) bellen met hetzelfde input / output-formaat. Het ondersteunt ook Logfire voor logging en monitoring.

Logfire integreren met LiteLLM:

  1. stellen LOGFIRE_TOKEN En omgevingsvariabelen.
  2. voegt logfire toe aan de LiteLLM-callback.

Raadpleeg de officiële LiteLLM-documentatie voor meer informatie.


本文总阅读量次