Перейти к содержанию

LiteLLM

LiteLLM позволяет вызывать более 100 больших языковых моделей (LLMs) в одном и том же формате ввода/вывода. Он также поддерживает Logfire для ведения журналов и мониторинга.

Интеграция Logfire с LiteLLM:

  1. устанавливает переменную среды LOGFIRE_TOKEN.
  2. добавляет logfire к обратного вызова LiteLLM.

Для получения дополнительной информации ознакомьтесь с официальной документацией LiteLLM.


本文总阅读量次