LiteLLM

LiteLLM을 사용하면 동일한 입력/출력 형식을 사용하여 100개 이상의 대형 언어 모델(LLM)을 호출할 수 있습니다. 또한 로깅 및 모니터링을 위해 Logfire를 지원합니다.

Logfire와 LiteLLM 통합:

1. 세트 LOGFIRE_TOKEN 그리고 환경 변수.
2. 는 LiteLLM 콜백에 logfire 를 추가합니다.

자세한 내용은 공식 LiteLLM 문서를 참조하십시오.

---

本文总阅读量次